Apple eliminó su función de noticias Apple Intelligence AI después de que inventó historias y transformó titulares reales en ficción.
Se suponía que las noticias sobre inteligencia artificial de Apple harían la vida más fácil al resumir alertas de noticias de múltiples fuentes. En cambio, creó el caos al difundir noticias falsas, a menudo bajo marcas de medios confiables.
Aquí es donde todo salió mal:
- Usando el logo de la BBC, inventó una historia afirmando que la estrella del tenis Rafael Nadal se había declarado gay, malentendiendo por completo una historia sobre un jugador brasileño.
- Se adelantó al anunciar que el jugador adolescente de dardos Luke Littler había ganado el Campeonato Mundial de PDC, incluso antes de haber jugado en la final.
- En un error más grave, creó una alerta falsa de la BBC que afirmaba que Luigi Mangione, acusado de matar al director ejecutivo de UnitedHealthcare, Brian Thompson, se había suicidado.
- El sistema estampó el nombre del New York Times en un historia completamente inventada sobre el arresto del Primer Ministro israelí Benjamín Netanyahu.
La BBC, enojada por ver su nombre adjunto a historias falsas, finalmente presentó una denuncia formal. Se sumaron grupos de prensa como Reporteros sin fronterasquien advirtió que permitir que la IA reescriba las noticias pone en riesgo el derecho del público a recibir información precisa.
El Unión Nacional de Periodistas también pidió que se elimine la función, diciendo que los lectores no deberían tener que adivinar si lo que están leyendo es real.
Investigación ha demostrado anteriormente que incluso cuando las personas se enteran de que los medios creados por IA son falsos, todavía dejan una “marca” psicológica que persiste después.
Manzana Inteligencia – que ofrecía una gama de funciones impulsadas por IA, incluidas noticias sobre IA, fue una de las características principales de la nueva gama de iPhone 16.
Apple es una empresa que se enorgullece de sus productos pulidos que “simplemente funcionan” (es raro que Apple dé marcha atrás), por lo que evidentemente no tenían muchas opciones en este caso.
Dicho esto, no están solos en lo que respecta a los errores de la IA. No hace mucho, los resúmenes de búsqueda generados por la IA de Google decían a las personas que podían comer piedras y poner pegamento en la pizza.
Apple planea resucitar la función con etiquetas de advertencia y un formato especial para mostrar cuándo la IA crea los resúmenes.
¿Deberían los lectores tener que decodificar diferentes fuentes y etiquetas sólo para saber si están leyendo noticias reales? Y he aquí una idea radical: ¿podrían seguir mostrando el titular de la noticia?
Todo esto demuestra que, a medida que la IA continúa filtrándose en cada rincón de nuestra vida digital, algunas cosas (como recibir noticias precisas) son simplemente demasiado importantes como para equivocarse.
Un gran cambio de sentido por parte de Apple, pero probablemente no sea el último que veremos de este tipo.
