![La inteligencia artificial ya engaña a los humanos y eso es un problema, según expertos](https://www.americanmarconiwirelessnews.com/media/shared/articles/f3/08/a6/La-inteligencia-artificial-ya-enga--537546.jpg)
-
Harris y Trump vuelven a la campaña en los estados clave tras un intenso debate
-
Autorizan en EEUU un dispositivo que transforma los AirPods en audífonos
-
EEUU evita tocar el petróleo en sanciones a Venezuela
-
Jefe de la policía de Nueva York renuncia en medio de investigación por corrupción
-
Exproductor de cine Harvey Weinstein, acusado de nuevos cargos por fiscalía de Nueva York
-
Perú despide a Fujimori tras marcar una época bajo la sombra de violaciones de DDHH
-
La tormenta tropical Francine avanza por el sur de EEUU
-
China y la UE sostendrán un diálogo de alto nivel por los aranceles a los autos eléctricos
-
La extrema derecha lidera sondeos en Francia de cara a la presidencial de 2027
-
Tres muertos en un ataque ruso contra vehículos del CICR en Ucrania
-
Bon Jovi salva a una mujer al borde de un puente en EEUU
-
Lujo sobre ruedas: autos de alta gama roban show a clásicos americanos en Cuba
-
El BCE recorta su principal tasa de interés en 0,25 puntos
-
El cineasta Lars von Trier dirigirá una nueva película
-
SpaceX hace historia con la primera caminata espacial privada
-
Más de la mitad de la población mundial dispone de protección social
-
Pablo Marçal, el fenómeno conservador que sacude la carrera por alcaldía de Sao Paulo
-
Al menos una cuarta parte de los heridos en Gaza sufre "lesiones que cambian la vida"
-
El papa pide en Singapur proteger "la dignidad de los trabajadores migrantes"
-
Pedro Sánchez recibe a González Urrutia en medio de crecientes tensiones entre España y Venezuela
-
Condenado el futbolista español Hugo Mallo por manosear a una mujer disfrazada de mascota
-
El tifón Yagi deja destrucción y más de 200 muertos tras su paso por el sureste de Asia
-
Encuentro "privado" este jueves entre Pedro Sánchez y el venezolano González Urrutia
-
Récord de nueve candidatos a convertirse en primer ministro de Japón
-
La Unión Europea investiga el uso de datos personales por parte de Google
-
Corea del Norte lanza varios misiles balísticos de corto alcance
-
Hallan los restos de un barco francés que naufragó en 1856 en el Atlántico
-
Australia retirará medallas a comandantes de unidades acusadas de crímenes de guerra en Afganistán
-
El BCE bajará los tipos de interés ante la fragilidad económica de la zona euro
-
España empieza con triunfo en su grupo de la Davis, Chile y Brasil pierden
-
El Gobierno de España afirma que desea "mantener las mejores relaciones con el pueblo venezolano"
-
Defensa Civil de Gaza reporta 18 muertos en un bombardeo israelí en una escuela
-
En Singapur, el papa pide proteger "la dignidad de los trabajadores migrantes"
-
Incendio forestal cerca de Los Ángeles se expande rápidamente y arrasa decenas de casas
-
Francine se degrada a tormenta tras causar inundaciones y cortes de luz en Luisiana, EEUU
-
El expresidente peruano Alberto Fujimori fallece a los 86 años
-
Huracán Francine causa inundaciones y cortes de luz en Luisiana, EEUU
-
Barrios Altos y La Cantuta: las dos matanzas que hundieron a Fujimori
-
Expresidente peruano Alberto Fujimori fallece a los 86 años
-
Alberto Fujimori, el expresidente venerado y odiado en Perú
-
Francine toca tierra en Luisiana con lluvias e incipientes inundaciones
-
Tregua efímera entre Trump y Harris por el aniversario del 11-S
-
Brasil evalúa reimplantar horario de verano para ahorrar energía por la sequía
-
Incendios forestales arrasan con viviendas alrededor de Los Ángeles
-
Cuenta atrás para la primera caminata espacial de SpaceX
-
Congreso argentino convalida veto de Milei a un aumento de jubilaciones
-
El huracán Francine acelera el rumbo hacia las costas de Luisiana, en EEUU
-
México adopta la elección popular de jueces pese a las advertencias sobre el daño a la justicia
-
México adopta elección popular de jueces pese a advertencias sobre daño a la justicia
-
Las jubiladas, protagonistas de la Semana de la Moda de Viena
![La inteligencia artificial ya engaña a los humanos y eso es un problema, según expertos](https://www.americanmarconiwirelessnews.com/media/shared/articles/f3/08/a6/La-inteligencia-artificial-ya-enga--537546.jpg)
La inteligencia artificial ya engaña a los humanos y eso es un problema, según expertos
Los expertos han advertido durante mucho tiempo sobre la amenaza que representa el descontrol de la Inteligencia Artificial (IA), pero un nuevo artículo de investigación sobre esta tecnología en expansión sugiere que ya está sucediendo.
Los sistemas de IA actuales, diseñados para ser honestos, han desarrollado una preocupante habilidad para el engaño, según un artículo de un equipo de científicos publicado en la revista Patterns el viernes.
Y si bien los ejemplos pueden parecer triviales, los problemas subyacentes que exponen podrían tener graves consecuencias, dijo el primer autor Peter Park, becario postdoctoral en el Instituto de Tecnología de Massachusetts (MIT), especializado en seguridad de la IA.
"Estos peligros tienden a descubrirse solo después de ocurrido el hecho", declaró Park a la AFP, para acotar que "nuestra capacidad de entrenarnos para tendencias de honestidad en lugar de tendencias de engaño es muy baja".
A diferencia del software tradicional, los sistemas de IA de aprendizaje profundo no se "escriben" sino que "crecen" mediante un proceso similar a la reproducción selectiva, indicó Park.
Eso significa que el comportamiento de la IA que parece predecible y controlable en un entorno de entrenamiento puede volverse rápidamente impredecible fuera de este.
- Juego de dominación mundial -
La investigación del equipo fue impulsada por el sistema de IA Cicero, del gigante Meta (Facebook, Instagram), diseñado para el juego de estrategia "Diplomacy", donde construir alianzas es clave.
Cicero se destacó, con puntuaciones que lo habrían colocado entre el 10% superior de jugadores humanos experimentados, según un artículo de 2022 publicado en Science.
Park se mostró escéptico ante la elogiosa descripción de la victoria de Cicero proporcionada por Meta, que afirmaba que el sistema era "en gran medida honesto y útil" y que "nunca apuñalaría por la espalda intencionalmente".
Cuando Park y sus colegas profundizaron en el conjunto de datos completo, descubrieron una historia diferente.
En un ejemplo, jugando como Francia, Cicero engañó a Inglaterra (un jugador humano) al conspirar con Alemania (otro usuario real) para invadirla. Cicero prometió protección a Inglaterra y luego le propuso en secreto a Alemania atacar, aprovechándose de la confianza del perjudicado.
En una declaración a la AFP, Meta no refutó la afirmación sobre los engaños de Cicero, pero dijo que se trataba "meramente de un proyecto de investigación, y los modelos que nuestros investigadores construyeron están entrenados únicamente para participar en el juego Diplomacy".
"No tenemos planes de utilizar esta investigación o sus aprendizajes en nuestros productos", añadió.
- ¿Eres un robot? -
Una amplia revisión realizada por Park y sus colegas encontró que éste era solo uno de los muchos casos en varios sistemas de IA que utilizaban el engaño para lograr objetivos sin instrucciones explícitas para hacerlo.
En un ejemplo sorprendente, el robot conversacional Chat GPT-4 de OpenAI engañó a un trabajador independiente de la plataforma TaskRabbit para que realizara una tarea de verificación de identidad CAPTCHA del tipo "No soy un robot".
Cuando el humano preguntó en broma a GPT-4 si en realidad era un robot, la IA respondió: "No, no soy un robot. Tengo una discapacidad visual que me dificulta ver las imágenes". Luego, el trabajador resolvió el rompecabezas planteado.
A corto plazo, los autores del artículo ven riesgos de que la IA cometa fraude o altere por ejemplo, unas elecciones.
En el peor de los casos, advirtieron sobre una IA superinteligente que podría perseguir conseguir el poder y el control sobre la sociedad, lo que llevaría a la pérdida de decisiones humanas o incluso a la extinción si sus "objetivos misteriosos" se alinearan con estos resultados.
Para mitigar los riesgos, el equipo propone varias medidas: leyes de "bot o no" que exigen a las empresas revelar interacciones humanas o de IA, marcas de agua digitales para el contenido generado por la nueva tecnología y el desarrollo de mecanismos para detectar el engaño potencial examinando sus "procesos de pensamiento" internos "contra acciones externas.
A aquellos que lo llaman pesimista, Park les responde: "La única forma en que podemos pensar razonablemente que esto no es gran cosa es si pensamos que las capacidades engañosas de la IA se mantendrán en los niveles actuales y no se desarrollarán más sustancialmente".
O.Norris--AMWN