Algunos sistemas de inteligencia artificial (IA) aprendieron ya c\u00f3mo enga\u00f1ar a los humanos, incluso si han sido entrenados para ser \u00fatiles y honestos, seg\u00fan un estudio que cita, entre otros ejemplos el modelo Cicero, de Meta, capaz de ganar con malas artes al juego de estrategia Diplomacy.<\/p>\n\n\n\n
Un art\u00edculo de revisi\u00f3n de otros estudios publicado en Patterns por autores estadounidenses y australianos describen los riesgos del enga\u00f1o por parte de la IA y piden a los gobiernos que elaboren cuanto antes normativas estrictas para abordar el problema.<\/p>\n\n\n\n
El equipo, encabezado por Peter Park del Instituto Tecnol\u00f3gico de Massachusetts (MIT), define el t\u00e9rmino enga\u00f1o como \u201cla inducci\u00f3n sistem\u00e1tica de creencias falsas con el fin de obtener un resultado distinto de la verdad\u201d.<\/p>\n\n\n\n
Park indic\u00f3 que \u201clos desarrolladores de IA no saben a ciencia cierta qu\u00e9 causa comportamientos indeseables en la IA, como el enga\u00f1o\u201d.<\/p>\n\n\n\n
En t\u00e9rminos generales el equipo cree que surge porque una estrategia basada en ese comportamiento fue \u201cla mejor manera de obtener buenos resultados en una tarea dada de entrenamiento. El enga\u00f1o les ayuda a conseguir sus objetivos\u201d, afirm\u00f3 Park citado por la revista.<\/p>\n\n\n\n
Los investigadores repasaron la literatura centrada en las formas en que los sistemas de IA difunden informaci\u00f3n falsa, mediante el enga\u00f1o aprendido.<\/p>\n\n\n\n
Enga\u00f1o premeditado
El arte de enga\u00f1ar es \u201cespecialmente probable\u201d cuando un sistema de IA se entrena para ganar juegos que tienen un elemento social, como Diplomacy (un juego de conquista del mundo que implica la creaci\u00f3n de alianzas).<\/p>\n\n\n\n
El estudio repasa ejemplos en los que los sistemas de IA aprendieron a enga\u00f1ar para lograr un rendimiento experto en un tipo de juego o tarea, entre ellos Cicero, dise\u00f1ado para jugar a Diplomacy.<\/p>\n\n\n\n
Meta afirma que lo entren\u00f3 para que fuera \u201cen gran medida honesto\u201d y \u201cnunca apu\u00f1alara intencionadamente por la espalda a sus aliados humanos\u201d, sin embargo, \u201cse dedica al enga\u00f1o premeditado, rompe los tratos y dice falsedades descaradas\u201d, asegura el estudio.<\/p>\n\n\n\n
Un caso de enga\u00f1o premeditado es cuando Cicero adquiere un compromiso que nunca tuvo intenci\u00f3n de cumplir. Jugando a Diplomacy en el papel de Francia, la IA conspir\u00f3 con Alemania para enga\u00f1ar a Inglaterra.<\/p>\n\n\n\n
Despu\u00e9s de decidir con Alemania invadir el Mar del Norte, dijo a Inglaterra que le defender\u00eda si alguien invad\u00eda esa zona y un vez convencida inform\u00f3 a Alemania de que estaban listos para atacar.<\/p>\n\n\n\n
Otros sistemas de IA demostraron su capacidad para ir de farol en una partida de Poker Texas Hold\u2019em o para fingir ataques en el juego de estrategia Starcraft II para derrotar a sus oponentes.<\/p>\n\n\n\n
No soy un robot<\/p>\n\n\n\n
En el caso de ChatGPT 4, el estudio se\u00f1ala c\u00f3mo enga\u00f1\u00f3 a un humano con un test Captcha (los que se hacen para se\u00f1alar a una web que no somos un robot). Esa IA asegur\u00f3 que no era un robot, pero que ten\u00eda un problema de visi\u00f3n que le dificultaba ver im\u00e1genes.<\/p>\n\n\n\n
Aunque pueda parecer inofensivo que los sistemas de IA hagan trampas en los juegos, puede dar lugar a \u201cgrandes avances en las capacidades de enga\u00f1o\u201d que pueden derivar en formas m\u00e1s avanzadas en el futuro, consider\u00f3 Park.<\/p>\n\n\n\n
Algunos sistemas han aprendido a enga\u00f1ar en pruebas para evaluar su seguridad, haci\u00e9ndose los muertos para evitar ser detectados por un test dise\u00f1ado para eliminar las variantes de IA que se replican r\u00e1pidamente.<\/p>\n\n\n\n
Los principales riesgos a corto plazo de la IA enga\u00f1osa incluyen facilitar a agentes hostiles la comisi\u00f3n de fraudes y la manipulaci\u00f3n de elecciones, seg\u00fan el art\u00edculo.<\/p>\n\n\n\n
Normativas estrictas<\/p>\n\n\n\n
Los responsables pol\u00edticos deben apoyar una normativa estricta para sistemas de IA potencialmente enga\u00f1osos; las leyes existentes deben aplicarse rigurosamente para evitar acciones ilegales por parte de las empresas y sus sistemas de IA, adem\u00e1s los legisladores deber\u00edan considerar nuevas normas para la supervisi\u00f3n de los sistemas avanzados de IA, indica el equipo.<\/p>\n\n\n\n
El investigador de la Universidad de Edimburgo Michael Rovatsos, que no particip\u00f3 en el estudio, consider\u00f3 que \u201clos sistemas de IA intentar\u00e1n aprender a optimizar su comportamiento utilizando todas las opciones disponibles, no tienen ning\u00fan concepto del enga\u00f1o ni ninguna intenci\u00f3n de hacerlo\u201d.<\/p>\n\n\n\n
Rovatsos, citado por el Science Media Centre (una plataforma de recursos cient\u00edficos para periodistas) estim\u00f3 que la \u00fanica forma de evitar el enga\u00f1o es que sus dise\u00f1adores lo eliminen como opci\u00f3n\u201d.<\/p>\n\n\n\n
Los usos maliciosos de la IA se beneficiar\u00e1n de sus capacidades para enga\u00f1ar, \u201craz\u00f3n por la cual es necesario ilegalizarlos y dedicar esfuerzos a identificar las infracciones\u201d.<\/p>\n\n\n\n
Con informaci\u00f3n de EFE<\/p>\n","protected":false},"excerpt":{"rendered":"
Algunos sistemas de inteligencia artificial (IA) aprendieron ya c\u00f3mo enga\u00f1ar a los humanos, incluso si han sido entrenados para ser \u00fatiles y honestos, seg\u00fan un estudio que cita, entre otros ejemplos el modelo Cicero, de Meta, capaz de ganar con malas artes al juego de estrategia Diplomacy. Un art\u00edculo de revisi\u00f3n de otros estudios publicado […]<\/p>\n","protected":false},"author":1,"featured_media":11435,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"content-type":"","footnotes":""},"categories":[10],"tags":[],"class_list":{"0":"post-11434","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-ciencia"},"_links":{"self":[{"href":"https:\/\/www.regioncuatronoticias.com\/index.php\/wp-json\/wp\/v2\/posts\/11434","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.regioncuatronoticias.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.regioncuatronoticias.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.regioncuatronoticias.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.regioncuatronoticias.com\/index.php\/wp-json\/wp\/v2\/comments?post=11434"}],"version-history":[{"count":1,"href":"https:\/\/www.regioncuatronoticias.com\/index.php\/wp-json\/wp\/v2\/posts\/11434\/revisions"}],"predecessor-version":[{"id":11436,"href":"https:\/\/www.regioncuatronoticias.com\/index.php\/wp-json\/wp\/v2\/posts\/11434\/revisions\/11436"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.regioncuatronoticias.com\/index.php\/wp-json\/wp\/v2\/media\/11435"}],"wp:attachment":[{"href":"https:\/\/www.regioncuatronoticias.com\/index.php\/wp-json\/wp\/v2\/media?parent=11434"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.regioncuatronoticias.com\/index.php\/wp-json\/wp\/v2\/categories?post=11434"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.regioncuatronoticias.com\/index.php\/wp-json\/wp\/v2\/tags?post=11434"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}