Microsoft ha creado un modelo de inteligencia artificial generativa basado en GPT-4, diseñado específicamente para los servicios de inteligencia estadounidenses. Funciona sin conexión a Internet.
Al parecer, es la primera vez que Microsoft despliega un modelo lingüístico básico en un entorno seguro, diseñado para permitir a las agencias de espionaje analizar información ultrasecreta sin riesgo de conectividad, y ofrecer conversaciones seguras con un chatbot como ChatGPT y Microsoft Copilot.
Según Bloomberg, el nuevo servicio de IA (que aún no tiene nombre público) responde al creciente interés de las agencias de inteligencia por utilizar la IA generativa para procesar datos sensibles, reduciendo al mismo tiempo el riesgo de filtración de datos o intentos de pirateo. ChatGPT suele ejecutarse en servidores en la nube, lo que puede plantear riesgos de filtración e interceptación de datos. Por ello, el año pasado, la CIA anunció su plan de crear un servicio similar a ChatGPT, pero esta solución de Microsoft es un proyecto independiente.
William Chappell, director de tecnología y misiones estratégicas de Microsoft, señaló que el desarrollo del nuevo sistema incluyó 18 meses de trabajo para modificar el superordenador de IA de Iowa. El modelo GPT-4 modificado está diseñado para leer archivos proporcionados por los usuarios, pero no tiene acceso a Internet abierto.
«Es la primera vez que tenemos una versión aislada — donde aislada significa que no está conectada a Internet — y que está en una red especial a la que sólo tiene acceso el gobierno de EE.UU.», dijo Chappell.
El nuevo servicio se activó el jueves y ya está disponible para unas 10.000 personas de la comunidad de inteligencia. Está listo para nuevas pruebas por parte de las agencias pertinentes. Según Chappell, ya está «respondiendo a» preguntas.
Uno de los graves inconvenientes de utilizar la GPT-4 para analizar datos sensibles es que tiene el potencial de crear resúmenes inexactos, extraer conclusiones inexactas o proporcionar información inexacta a sus usuarios. Dado que las redes neuronales de IA entrenadas no son bases de datos y funcionan sobre la base de probabilidades estadísticas, pueden producir recursos fácticos deficientes a menos que se complementen con el acceso externo a información de otra fuente mediante una técnica como la generación de búsquedas avanzadas. Dada esta limitación, es posible que GPT-4 pueda desinformar o engañar a las agencias de inteligencia estadounidenses si no se utiliza adecuadamente.
Fuente: arstechnica