Ilya Sutskever, cofundador de OpenAI y antiguo científico jefe, ha lanzado una nueva empresa de soluciones de inteligencia artificial centrada en la seguridad. Su nueva empresa, Safe Superintelligence Inc. (SSI), es una startup con «un objetivo y» un producto. El objetivo es crear un sistema de IA seguro y potente.
En el anuncio, SSI se describe como una startup que «aborda la seguridad y las capacidades en tándem», lo que permite a la empresa mejorar rápidamente su sistema de IA al tiempo que prioriza la seguridad. También se menciona que el «enfoque único» de la empresa le permite evitar «distracciones por gastos generales de gestión o ciclos de productos».
«Nuestro modelo de negocio significa que la seguridad y el progreso están aislados de las presiones comerciales a corto plazo», dice el comunicado. «Así podemos escalar tranquilamente».
Además de Sutskever, los cofundadores de SSI son Daniel Gross, antiguo responsable de inteligencia artificial de Apple, y Daniel Levy, que anteriormente trabajó en el equipo técnico de OpenAI.
El año pasado, Sutskever dirigió una iniciativa para la destitución del CEO de OpenAI, Sam Altman. Sutskever dejó OpenAI en mayo e insinuó el inicio de un nuevo proyecto. Poco después de la marcha de Sutskever, el investigador en inteligencia artificial Jan Leike anunció su dimisión de OpenAI, alegando que los procesos de seguridad «quedaban en un segundo plano» ante productos brillantes. Gretchen Krueger, investigadora de políticas de OpenAI, también mencionó problemas de seguridad al anunciar su dimisión.
Durante una entrevista con Bloomberg, Sutskever dijo que el primer producto de SSI sería una superinteligencia segura y que, hasta entonces, «no haría nada más con».
Fuente: The Verge