GPT-3 nos (des)informa mejor que los humanos, muestra una investigación

Un estudio reciente realizado por investigadores de la Universidad de Zúrich profundizó en las capacidades de los modelos de IA, centrándose en particular en GPT-3 de OpenAI, para determinar sus riesgos y beneficios potenciales en la generación y difusión de información (errónea).

Dirigido por los investigadores postdoctorales Giovanni Spitale y Federico Germani, junto con Nikola Biller-Andorno, director del Instituto de Ética Biomédica e Historia de la Medicina (IBME) de la Universidad de Zúrich, el estudio, en el que participaron 697 participantes, tenía como objetivo evaluar si las personas podían decir la diferencia entre la desinformación y la información precisa presentada en forma de tweets.

Además, los investigadores querían determinar si los participantes podían reconocer si un tweet fue escrito por un usuario real de Twitter o generado por GPT-3, un modelo de lenguaje de IA avanzado. Los temas cubiertos incluyeron el cambio climático, la seguridad de las vacunas, la pandemia de COVID-19, la teoría de la tierra plana y los tratamientos homeopáticos contra el cáncer.

El artículo está publicado en Progreso de la ciencia.

Los sistemas basados ​​en IA pueden generar campañas de desinformación a gran escala

Por un lado, GPT-3 demostró la capacidad de generar información precisa y, en comparación con los tweets de los usuarios reales de Twitter, más fácil de entender. Sin embargo, los investigadores también descubrieron que el modelo de lenguaje de IA tenía una habilidad inquietante para crear desinformación altamente persuasiva. De manera preocupante, los participantes no pudieron distinguir de manera confiable entre los tweets creados por GPT-3 y los escritos por usuarios reales de Twitter.

“Nuestro estudio revela el poder de la IA para informar y engañar, lo que plantea preguntas críticas sobre el futuro de los ecosistemas de información”, dice Federico Germani.

Estos hallazgos sugieren que las campañas de información creadas por el GPT-3, basadas en indicaciones bien estructuradas y evaluadas por personas capacitadas, serán más efectivas, por ejemplo, en una crisis de salud pública que requiera una comunicación rápida y clara con el público. Los hallazgos también plantean serias preocupaciones sobre la amenaza de que la IA perpetúe la desinformación, especialmente en el contexto de la difusión rápida y generalizada de desinformación e información errónea durante una crisis o evento de salud pública.

El estudio revela que los sistemas basados ​​en IA pueden usarse para generar campañas de desinformación a gran escala sobre potencialmente cualquier tema, amenazando no solo la salud pública sino también la integridad de los ecosistemas de información necesarios para que la democracia funcione.

Se recomienda una regulación proactiva

A medida que el impacto de la IA en la creación y evaluación de la información se hace más claro, los investigadores instan a los legisladores a responder con una legislación rigurosa, basada en evidencia y éticamente sólida para abordar las amenazas potenciales que plantean estas tecnologías disruptivas y garantizar el uso responsable de la IA en dando forma a nuestro conocimiento y bienestar colectivos.

“Los hallazgos resaltan la importancia crítica de la regulación proactiva para mitigar el daño potencial causado por las campañas de desinformación basadas en IA”, dice Nikola Biller-Andorno. “Reconocer los riesgos de la desinformación generada por IA es fundamental para proteger la salud pública y mantener un ecosistema de información sólido y confiable en la era digital”.