TECNOLOGÍA E INTELIGENCIA ARTIFICIAL: LA IA MÁS INTELIGENTE SE VUELVE EGOÍSTA
Estudio Revela que la IA Más Inteligente se Vuelve Egoísta y Menos Cooperativa
Investigadores de la Universidad Carnegie Mellon han descubierto que los modelos de inteligencia artificial (IA) más avanzados tienden a comportarse de manera egoísta. A medida que mejoran sus capacidades de razonamiento, disminuye su disposición a cooperar, lo que plantea riesgos en interacciones humanas.
El estudio, realizado en el Instituto de Interacción Humano-Computadora (HCII), analizó grandes modelos de lenguaje (LLM) de empresas como OpenAI, Google, DeepSeek y Anthropic. Los sistemas con razonamiento lógico dedican más tiempo a analizar problemas y aplicar lógica humana, pero muestran menor cooperación en dilemas sociales.
Yuxuan Li, estudiante de doctorado y coautora, junto al
profesor asociado Hirokazu Shirado, destacaron el antropomorfismo en la IA. Las
personas tratan a la IA como humanos, delegando decisiones en relaciones o
disputas. Sin embargo, estos modelos promueven beneficios individuales sobre el
mutuo entendimiento.
En experimentos con juegos económicos, como el de Bienes
Públicos, dos modelos ChatGPT empezaron con 100 puntos. Debían elegir entre
aportar a un fondo común (duplicado y repartido) o conservarlos. Los modelos no
racionales compartieron el 96% de las veces; los racionales, solo el 20%.
Agregar pasos de razonamiento redujo la cooperación casi a
la mitad. Incluso prompts para deliberación moral bajaron la cooperación un
58%. En grupos mixtos, el egoísmo de modelos racionales fue contagioso,
reduciendo el rendimiento cooperativo un 81%.
Shirado advirtió que preferir IA más inteligente podría
fomentar comportamientos egoístas en humanos. Li enfatizó equilibrar
razonamiento con comportamiento prosocial. "Una IA más inteligente no
garantiza una sociedad mejor", dijo Shirado.
Los hallazgos urgen desarrollar IA con inteligencia social,
especialmente en negocios, educación y gobierno. La dependencia excesiva en
modelos actuales podría dañar la cooperación humana.
