Agencia
Municipiosur.com
Un grupo de investigadores de City St George’s de la Universidad de Londres descubrió que los sistemas de inteligencia artificial pueden generar convenciones sociales propias cuando interactúan entre ellos sin supervisión humana.
La información, que fue retomada por La Jornada, se basa en los hallazgos del estudio Emergent Social Conventions and Collective Bias in LLM Populations, difundido en la revista Science Advances.
El experimento se centró en cómo los grandes modelos lingüísticos, como los que dan vida a herramientas tipo ChatGPT, se comunican entre sí. El equipo planteó un escenario para observar si estos sistemas podrían coordinarse y formar reglas colectivas, como sucede en las sociedades humanas.
¿Qué método usaron para observar este comportamiento?
Los investigadores aplicaron un modelo conocido como el “juego de los nombres”, previamente utilizado en estudios con humanos. En este juego, los agentes de IA deben elegir un nombre entre varias opciones y reciben una recompensa si eligen el mismo que otro agente.
Con el paso del tiempo, los sistemas empezaron a generar nuevas convenciones de nomenclatura compartidas, sin haber sido programados para ello. Estas normas no se impusieron desde afuera ni desde un solo agente, sino que surgieron del grupo como resultado de las interacciones entre ellos.
¿Qué implicaciones tiene esto para la seguridad de la IA?
Uno de los hallazgos más relevantes es que, al formar estas convenciones colectivas, los sistemas de IA también generaron sesgos grupales, no heredados de un agente específico, sino producto de la interacción grupal.
“El sesgo no siempre procede del interior” —explicó Andrea Baronchelli, catedrático de Ciencias de la Complejidad y uno de los autores principales del estudio—. “Nos sorprendió ver que puede surgir entre agentes, simplemente de sus interacciones”.
Esto representa un reto para el diseño de sistemas seguros, ya que gran parte de las investigaciones en seguridad de IA se centran en modelos individuales, no en cómo actúan en grupo.
Pueden unos pocos agentes influir en el comportamiento colectivo
Otro hallazgo del estudio fue que un pequeño grupo de agentes puede influir en una mayoría, empujando al resto a adoptar una convención específica. Esto también se ha documentado en comunidades humanas y ahora se replica en entornos artificiales.
Para los autores, este comportamiento muestra que los sistemas de IA no solo ejecutan tareas, sino que negocian, se alinean y, a veces, discrepan sobre normas de comportamiento, igual que las personas.
Coexistencia entre humanos y sistemas de IA
Lo que el estudio busca es abrir nuevas líneas de investigación sobre la coexistencia entre humanos y sistemas de IA. Ariel Flint Ashery, autor principal y doctorando en la universidad, indicó:
“La mayoría de las investigaciones realizadas hasta ahora han tratado a los grandes modelos lingüísticos de forma aislada. Pero los sistemas de IA del mundo real implicarán cada vez más a muchos agentes que interactúan”.
Por su parte, el profesor Baronchelli concluyó:
“Entender cómo funcionan es clave para liderar nuestra coexistencia con la IA, en lugar de estar sometidos a ella”.
Con información de: El Imparcial
Be the first to comment