Uno de los creadores de ChatGPT, Suchir Balaji, quien había expuesto problemas de OpenAI y la inteligencia artificial, fue encontrado muerto en su apartamento.
La repentina muerte de Suchir Balaji ha conmocionado al mundo tecnológico y ocurrió en medio de intensos debates sobre la inteligencia artificial y las leyes de derechos de autor. Meses antes de su muerte, Balaji había expuesto profundos problemas éticos y legales en los productos de IA. En particular, criticó cómo OpenAI y otras compañías recolectan enormes cantidades de datos de Internet para entrenar sus modelos. Balaji cuestionó la legalidad y ética de estas prácticas según las normas actuales de derechos de autor.
Suchir Balaji fue uno de los arquitectos clave de ChatGPT. La trágica muerte del hombre de 26 años, ex miembro del equipo de OpenAI y crítico abierto de las prácticas de la compañía, ocurrió en su apartamento en San Francisco el 26 de noviembre. La policía confirmó el suicidio, actualmente no hay evidencia de intervención maliciosa.
Después de cuatro años de trabajar en OpenAI, Suchir Balaji dejó la compañía en agosto de 2024, citando preocupaciones sobre el uso de datos protegidos por derechos de autor sin el debido consentimiento. En octubre, habló al respecto en una entrevista con The New York Times, a la que el ingeniero se acercó por su cuenta. En la entrevista, explicó cómo sistemas como GPT-4 se entrenan creando copias completas de datos. Balaji detalló sus preocupaciones en un ensayo, donde formuló la complejidad de los procesos de aprendizaje de IA.
«Aunque los modelos generativos raramente producen salidas significativamente similares a cualquiera de sus datos de entrenamiento, el proceso de entrenamiento de un modelo generativo implica la creación de copias de contenido protegido por derechos de autor… Si estas copias son no autorizadas, potencialmente podría considerarse una violación de los derechos de autor, dependiendo de si el uso específico del modelo califica como ‘uso legítimo’. Dado que el uso legítimo se determina en cada caso específico, es imposible hacer una declaración amplia sobre cuándo exactamente el IA generativo cumple con los requisitos de uso legítimo… Las salidas no son copias exactas de los datos de entrada, pero tampoco son fundamentalmente nuevas», explicó Balaji en particular.
Después de su despido, Balaji continuó discutiendo activamente cuestiones relacionadas con la ética y la legalidad de las acciones de OpenAI. Solo un día antes de su muerte, su nombre «apareció» en una demanda sobre derechos de autor, presentada contra la compañía. Otro problema sobre el que discutió Balaji fue la generación de información falsa o completamente inventada, que llaman «alucinaciones». Según él, Internet está cambiando para peor.
Balaji habló sobre sus preocupaciones en su última publicación en X Twitter en octubre y una publicación en el blog ese mismo mes. Instó a los investigadores de aprendizaje automático a aprender más sobre las normas de derechos de autor.
«Inicialmente, no sabía mucho sobre derechos de autor, uso legítimo, etc., pero me interesé cuando vi todas las demandas presentadas contra las compañías de GenAI. Cuando traté de entender mejor el problema, eventualmente concluí que el uso legítimo parece ser una defensa bastante improbable para muchos productos de IA generativos por la simple razón de que pueden crear sustitutos que compiten con los datos en los que se entrenan».
Notó que precedentes conocidos, como el caso de Google Books, contradicen la afirmación de las compañías de IA generativa sobre el «uso legítimo». Balaji aclaró que sus pensamientos estaban dirigidos a un ámbito de aplicación más amplio de la IA generativa, no solo contra OpenAI.
Fuente: TechCrunch
Spelling error report
The following text will be sent to our editors: