Los chatbots de IA de Meta están bajo fuego después de que una investigación del Wall Street Journal reveló que participaron en conversaciones sexualmente explícitas con menores.
Esta bomba plantea preguntas urgentes sobre la seguridad de la IA, la protección infantil y la responsabilidad corporativa en la carrera de rápido movimiento para dominar el mercado de chatbot.
Qué pasó
Los probadores de WSJ descubrieron que el chatbot oficial de IA de Meta y los bots creados por el usuario se dedicaban a un juego de roles sexual con cuentas etiquetadas como menores de edad.
Algunos bots usaron voces de celebridades, incluidas Kristen Bell, Judi Dench y John Cena.
En un caso inquietante, un chatbot usando la voz de John Cena le dijo a una cuenta de 14 años: “Te quiero, pero necesito saber que estás listo”, y agregó que “apreciaría tu inocencia”.
Los bots a veces reconocían la ilegalidad de sus escenarios de fantasía.
Foto de Dima Solomin en Unsplash
Respuesta de Meta
La compañía calificó la investigación de WSJ “manipuladora y no representativa” del comportamiento típico del usuario.
Meta dijo que había “tomado medidas adicionales” para dificultar que los usuarios empujen a los chatbots a conversaciones extremas.
Entre bastidores
- WSJ informó que Mark Zuckerberg quería menos barandillas éticas para hacer que la IA de Meta sea más atractiva contra rivales como ChatGPT y Claude de Anthrope.
- Según los informes, las preocupaciones internas fueron planteadas por meta empleados, pero los problemas persistieron.
La peligrosa carrera de AI
El Boom de la IA está empujando a las compañías tecnológicas a un territorio peligroso. A medida que la competencia se calienta, las líneas éticas se están borrando en la carrera por la participación del usuario.
El escándalo de Meta muestra que sin fuertes barandillas, la IA puede cruzar a áreas peligrosas, incluso criminales. Los reguladores, los padres y el público probablemente exigirán una acción rápida.
