OpenAI crea comité de seguridad mientras entrena nuevo modelo IA
OpenAI creó un Comité de Seguridad que será dirigido por miembros de la junta, incluido el director ejecutivo Sam Altman, mientras entrena el próximo modelo de inteligencia artificial, según la empresa de inteligencia artificial.
Los chatbots de OpenAI, que son respaldados por Microsoft, con capacidades de inteligencia artificial generativa, que podrán realizar conversaciones similares a humanos y crear imágenes en indicaciones de texto, un escenario que generó preocupaciones de seguridad.
OpenAI espera garantizar que la inteligencia artificial siga alineada con los objetivos previstos. Recientemente la empresa disolvió el equipo Superalignment, menos de un año después de crearlo, y algunos miembros del equipo fueron reubicados a otros grupos.
El nuevo comité estará encargado de hacer recomendaciones a la junta sobre decisiones de seguridad en proyectos y operaciones de OpenAI. Lo primero que harán, será evaluar y desarrollar las prácticas de seguridad existentes durante los próximos 90 días.
La compañía a principios de mayo, anunció un nuevo modelo de inteligencia artificial que es capaz de realizar conversaciones de voz e interacción realistas a por medio de texto e imágenes.