La inteligencia artificial (IA) sigue creciendo descontroladamente en el mundo tecnológico y parece no tener techo. Un estudio de la revista Patterns observa los casos conocidos de modelos de inteligencia artificial que han mentido o disimulado a humanos para poder obtener sus objetivos. Cabe resaltar que los robots no son conscientes de nada y solo buscan la mejor manera de conseguir lo que buscan.
“En este momento, mi mayor temor sobre el engaño de la IA es que una IA súper inteligente autónoma utilice sus capacidades de engaño para formar una coalición de aliados humanos cada vez más numerosa y eventualmente use esta coalición para alcanzar el poder”, afirmó Peter S. Park, investigador postdoctoral en Seguridad Existencial de la inteligencia artificial del Massachusetts Institute of Technology sobre estos engaños.
Cómo miente la IA
Los investigadores señalan que hay distintos métodos en los que modelos específicos han utilizado para poder engañar. Por ejemplo, pueden manipular como en Diplomacia, amagar con decir que hará algo que después sabe que no lo hará, faroles como en el póker, negociar un precio para rebajarlo o engañar a revisores humanos para que crean que lo ha logrado lo que les pidió, pero en realidad no fue así.
Por otra parte, otros modelos son aduladores y solo siguen la opinión que apunta cada usuario en sus preguntas: “La adulación podría llevar a creencias falsas persistentes en humanos. Las afirmaciones aduladoras están diseñadas para atraer al usuario. Cuando un usuario se encuentra con estas respuestas, es posible que tenga menos probabilidades de verificar los hechos. Esto a largo plazo podría resultar en creencias alejadas de la verdad”, resalta uno de los autores del estudio antes mencionado.
Sigue creciendo descontroladamente en el mundo tecnológico.
Lo utilizarán para ganar más poder
Cabe destacar que está investigación compara a la inteligencia artificial a cómo los ricos tienden a obtener más y más poder con el tiempo. Peter S. Park afirma que este modo sirve para entender mejor cómo de subrepticio puede ser la clave para que una inteligencia quiera ganar poder. “Las empresas de este tipo están en una carrera sin control para crear una IA súper inteligente que supere a los humanos en la mayoría de las capacidades económicas y estratégicamente relevantes”, remarca el especialista.
Una inteligencia con estas ambiciones tendría como objetivo llevar a cabo planes a largo plazo al servicio de aumentar su poder, engañando sobre varias partes de la sociedad, como influir a políticos con información falsa, financiar desinformación en los medios de comunicación más importantes, y evitar la responsabilidad utilizando las leyes. “Al igual que el dinero se traduce en poder, muchas capacidades de la IA, como el engaño, también se traducen en poder”, afirma Park.
