El suplemento del Índice de la Naturaleza 2024 sobre Inteligencia Artificial, publicado esta semana, revela un mundo científico en medio de un cambio de paradigma impulsado por la IA.
Este informe anual, publicado por la revista Nature, rastrea la ciencia de alta calidad midiendo los resultados de la investigación en 82 revistas de ciencias naturales, seleccionadas por un panel independiente de investigadores.
La última edición ilustra cómo la IA no sólo está cambiando lo que estudian los científicos, sino que también está alterando fundamentalmente la forma en que se realiza, evalúa y aplica la investigación a nivel mundial.
Una de las tendencias más llamativas reveladas en el Índice es el aumento de investigación corporativa de IA. Las empresas estadounidenses han más que duplicado su producción en las revistas del Nature Index desde 2019, y su participación (una métrica utilizada por el índice para medir la producción de investigación) aumentó de 51,8 a 106,5.
Sin embargo, este auge en la actividad de I+D viene con una salvedad: todavía representa sólo el 3,8% de la producción total de investigación sobre IA en Estados Unidos en estas publicaciones. En esencia, a pesar de un importante aumento en la I+D corporativa en IA, no hemos visto esos esfuerzos reflejados en la producción de investigación pública.
Esto plantea dudas sobre dónde se ubica la investigación corporativa en IA. ¿Las empresas publican sus trabajos más innovadores en otros lugares o los mantienen bajo llave?
La respuesta es una de nombres y narrativas en competencia. OpenAI, Microsoft, Google, Anthropic y algunos otros están firmemente arraigados en el modelo de código cerrado, pero la industria de la IA de código abierto, liderada por Meta, Mistral y otros, está ganando terreno rápidamente.
A esto contribuye la asombrosa disparidad de financiación entre empresas privadas e instituciones públicas en la investigación de la IA.
En 2021, según el Informe del Índice de IA de la Universidad de Stanford, la inversión del sector privado en IA en todo el mundo alcanzó aproximadamente 93.500 millones de dólares.
Esto incluye el gasto de gigantes tecnológicos como Google, Microsoft y Amazon, así como de nuevas empresas centradas en la inteligencia artificial y otras corporaciones de diversas industrias.
En cambio, la financiación pública para la investigación de la IA es mucho menor. El gasto del gobierno de EE. UU. en I+D en IA no relacionados con la defensa en 2021 fue de aproximadamente 1.500 millones de dólares, mientras que la Comisión Europea asignó alrededor de 1.000 millones de euros (aproximadamente 1.100 millones de dólares) para la investigación en IA ese año.
Este enorme vacío en el gasto de recursos está dando a las empresas privadas una ventaja en el desarrollo de la IA. Pueden permitirse recursos informáticos más potentes y conjuntos de datos más grandes y atraer a los mejores talentos con salarios más altos.
“Estamos cada vez más ante una situación en la que la investigación de IA de primer nivel se realiza principalmente en los laboratorios de investigación de un número bastante pequeño de empresas, en su mayoría con sede en Estados Unidos”, explicó Holger Hoos, investigador de IA de la Universidad RWTH Aachen en Alemania.
Si bien Estados Unidos mantiene su liderazgo en la investigación de IA, países como China, el Reino Unido y Alemania están emergiendo como importantes centros de innovación y colaboración.
Sin embargo, este crecimiento no es uniforme en todo el mundo. Sudáfrica es la única nación africana entre las 40 principales en producción de IA, lo que demuestra cómo la brecha digital corre el riesgo de profundizarse en la era de la IA.
IA en revisión por pares: promesa y peligro
La revisión por pares garantiza el rigor y la transparencia académicos y metodológicos cuando los artículos se envían a las revistas.
Este año, se publicó un artículo sin sentido con testículos de rata gigantes generados por IA. publicado en Fronteraslo que indica que el proceso de revisión por pares está lejos de ser impenetrable.
Alguien usó DALL-E crear figuras científicas galimatías y enviarlas a Diario de fronteras. ¿Y adivina qué? El editor lo publicó. Jajaja https://t.co/hjQkRQDkal https://t.co/aV1A NOSOTROSo6Vt2 pic.twitter.com/VAkjJkY4dR
— Veera Rajagopal (@doctorveera) 15 de febrero de 2024
Experimentos recientes han demostrado que la IA puede generar informes de evaluación de investigaciones que son casi indistinguibles de los escritos por expertos humanos.
El año pasado, un experimento Al probar las revisiones por pares de ChatGPT versus revisores humanos en el mismo artículo, se encontró que más del 50% de los comentarios de la IA en los artículos de Nature y más del 77% en los artículos de ICLR se alineaban con los puntos planteados por los revisores humanos.
Por supuesto, ChatGPT es mucho más rápido que los revisores humanos. “Cada vez es más difícil para los investigadores obtener comentarios de alta calidad de los revisores”, dijo James Zou de la Universidad de Stanford, el investigador líder de ese experimento.
La relación de la IA con la investigación está planteando preguntas fundamentales sobre la evaluación científica y si el juicio humano es intrínseco al proceso. El equilibrio entre la eficiencia de la IA y el conocimiento humano es una de las varias cuestiones clave a las que los científicos de todos los orígenes tendrán que enfrentarse en los próximos años.
La IA pronto podría ser capaz de gestionar todo el proceso de investigación de principio a fin, lo que podría dejar de lado por completo a los investigadores humanos.
Por ejemplo, ObstáculosEl científico de inteligencia artificial de AI genera de forma autónoma nuevas ideas de investigación, diseña y realiza experimentos e incluso escribe y revisa artículos científicos. Esto tienta a un futuro en el que la IA podría impulsar el descubrimiento científico con una mínima intervención humana.
Desde el punto de vista de la metodología, el uso del aprendizaje automático (ML) para procesar y analizar datos conlleva riesgos. Princeton Los investigadores argumentaron que, dado que muchas técnicas de aprendizaje automático no se pueden replicar fácilmente, esto erosiona la replicabilidad de los experimentos, un principio clave de la ciencia de alta calidad.
En última instancia, el ascenso de la IA a la prominencia en todos los aspectos de la investigación y la ciencia está ganando impulso y es probable que el proceso sea irreversible.
El año pasado, la Naturaleza encuestó a 1.600 investigadores y descubrió que el 66 % cree que la IA permite un procesamiento de datos más rápido, el 58 % que acelera análisis que antes eran inviables y el 55 % cree que es una solución que ahorra costos y tiempo.
Como concluye Simon Baker, autor principal de la descripción general del suplemento: “La IA está cambiando la forma en que trabajan los investigadores para siempre, pero la experiencia humana debe seguir dominando”.
La pregunta ahora es cómo se adaptará la comunidad científica global al papel de la IA en la investigación, garantizando que la revolución de la IA en la ciencia beneficie a toda la humanidad y sin riesgos imprevistos que causen estragos en la ciencia.
Como ocurre con muchos aspectos de la tecnología, dominar tanto los beneficios como los riesgos es un desafío, pero es necesario para asegurar un camino seguro hacia adelante.
