OpenAI, creadora de ChatGPT, suprime el departamento destinado a analizar los riesgos de la inteligencia artificial

Tecnología

Esta división, desmantelada un año después de su creación, debía evaluar peligros aparejados a los nuevos escenarios que abre la IA

OpenAI presenta ChatGPT-4o, una nueva versión que admite conversaciones naturales por voz

Bruselas da un ultimátum a Microsoft por los riesgos de su IA Copilot ante las elecciones

OpenAI
Agencias

17 de mayo 2024 - 22:46

Nueva York/La empresa tecnológica OpenAI, creadora del chatbotChatGPT, ha suprimido el departamento dedicado a analizar los riesgos a futuro de la inteligencia artificial apenas un año después de establecerlo, según informan este viernes medios estadounidenses especializados.

Hasta ahora, se preveía destinar a esta división, que recibía el nombre de Superalignment, hasta un 20% de la "potencia de cálculo" de OpenAI durante cuatro años para, entre otras líneas de investigación, evaluar posibles peligros aparejados a los nuevos escenarios que abre la inteligencia artificial.

Sin embargo, de acuerdo con la prensa de EEUU, la plantilla de esta sección está siendo recolocada en otras secciones dentro de la compañía.

Presentación de ChatGPT-4o de OpenAI

La noticia llega días después de que el cofundador de OpenAI, Ilya Sutskever, y el que fuera codirector de Superalignment, Jan Leike, anunciaran su marcha alegando que esta empresa -respaldada por Microsoft- debería centrarse mucho más en la seguridad, la vigilancia, la preparación y el impacto social derivado de su actividad.

Una enorme responsabilidad

"Construir máquinas más inteligentes que los humanos es un esfuerzo inherentemente peligroso. OpenAI está asumiendo una enorme responsabilidad en nombre de toda la humanidad. Pero en los últimos años, la cultura y los procesos de seguridad han pasado a un segundo plano frente a los productos innovadores", escribió Leike en la red social X tras su salida.

En noviembre, el consejo de OpenAI destituyó al cofundador y consejero delegado, Sam Altman, por una supuesta falta de honestidad que generó gran incertidumbre entre inversores y empleados.

Al cabo de una semana, Altman estaba de vuelta en la empresa y miembros del consejo como el propio Sutskever, que habían votado a favor de la destitución del consejero delegado, estaban fuera. Sutskever seguía en plantilla, pero ya no como miembro del consejo.

Medios como The Wall Street Journal informaban entonces de una pugna interna Altman-Sutskever porque este último prestaba mayor atención al impacto de la IA en los humanos, mientras que el primero estaba enfocado mayormente en seguir innovando.

OpenAI lanzó esta semana un nuevo modelo multimodal de su IA (ChatGPT-4o) y una versión de escritorio de ChatGPT, junto con una interfaz actualizada, para, entre otras cosas, que los usuarios puedan comunicarse por vídeo con su chatbot conversacional.

No hay comentarios

Ver los Comentarios

También te puede interesar

Lo último