Depositphotos
Según los ingenieros de OpenAI, sólo se necesitan entre 5 y 10 especialistas para volver a entrenar el modelo GPT-4 desde cero.
Cabe destacar que en la creación de este modelo, lanzado en marzo de 2023, participaron cientos de personas y casi todos los recursos de OpenAI. En respuesta a una pregunta del CEO de la compañía, Sam Altman, los ingenieros respondieron que no se necesitan más de 5-10 personas para volver a entrenar GPT-4 desde cero.
Según uno de los empleados de OpenAI, que dirigió el proceso preliminar de aprendizaje automático del modelo de IA más potente de la empresa hasta la fecha, GPT-4.5, Alex Pineau, en el reentrenamiento de los modelos GPT-4o y GPT-4 se utilizó gran parte del mismo material que en el entrenamiento de GPT-4.5. Daniel Selsam, investigador de OpenAI que trabaja en eficiencia de datos y algoritmos, está de acuerdo en que reconstruir GPT-4 será ahora mucho más fácil.
Según Sam Altman, el nuevo modelo lanzado en febrero El GPT-4.5 es el primero que da la impresión de estar hablando con una persona reflexiva. Según Pineau, el GPT-4.5 se diseñó para ser 10 veces más inteligente que el GPT-4. Al mismo tiempo, Altman afirmó que OpenAI ya no se siente limitada por la potencia de cálculo para el entrenamiento de la IA, y esto es algo de lo que el mundo aún no se ha dado cuenta del todo.
Las principales empresas tecnológicas están invirtiendo miles de millones en infraestructuras de IA. Se espera que este año Microsoft, Amazon, Google y Meta inviertan conjuntamente 320.000 millones de dólares en gastos de capital para ampliar sus capacidades de IA.
En marzo, OpenAI anunció el cierre de la mayor ronda privada de financiación tecnológica de su historia, que incluía 30.000 millones de dólares de SoftBank y 10.000 millones de otros inversores, lo que elevaba la valoración de la empresa a 300.000 millones de dólares. La empresa afirmó en un comunicado que el nuevo capital ayudará a OpenAI a seguir ampliando su capacidad de computación.
Altman señala que, en la actualidad, la OpenAI se centra en la eficacia de los datos sobre los que aprende la IA Los modelos GPT son muy eficaces a la hora de procesar información, pero tienen un límite en cuanto a la profundidad con la que pueden comprender los datos.
Explicó que, con el aumento de la potencia informática, la cantidad de información empieza a crecer más lentamente. Para resolver este problema, se necesitan innovaciones algorítmicas que permitan obtener más valor de la misma cantidad de información.
Fuente: Business Insider