- Ortega presenta proyecto de ley para controlar los bancos de Nicaragua
- Crece apoyo a Blake Lively por supuesta campaña de difamación en su contra
- Vicepresidenta de Ecuador puede retornar el cargo por fallo judicial favorable
- Diez miembros de una familia mueren en un accidente aéreo en Brasil
- La colonia "Trump Heights" planea ampliarse en los Altos del Golán sirios anexados por Israel
- La guerrilla del ELN anuncia una tregua en Colombia por Navidad y fin de año
- Irán no tiene fuerzas aliadas en Medio Oriente y no las necesita, afirma Jamenei
- Aumentan a 41 los muertos por el accidente de ómnibus en Brasil
- Un vuelo exclusivo para mujeres aterriza por primera vez en Mashhad, ciudad santa iraní
- Panamá rechaza la amenaza de Trump de retomar el control del Canal
- Cinco claves sobre el canal de Panamá, en la mira de Trump
- Congresistas de EEUU señalan que aliado fiel de Trump violó normas con sexo pago y drogas
- El fundador de Telegram anuncia beneficios netos por primera vez en 2024
- Biden conmuta las penas de 37 condenados a muerte en EEUU
- Acusado de matar a ejecutivo en EEUU se declara no culpable de asesinato como acto "terrorista"
- Corte Constitucional de Mozambique confirma victoria oficialista en cuestionadas elecciones
- Aumenta a 120 muertos el balance del paso del ciclón Chido por Mozambique
- Honda y Nissan acuerdan abrir negociaciones de fusión
- El nuevo hombre fuerte de Siria promete que todas las armas quedarán bajo control estatal
- Más de 400 detenidos en India en una operación contra los matrimonios de menores
- Trump nombra al productor de "El Aprendiz" enviado especial a Reino Unido
- Una comisión del Congreso avala levantar la prohibición a la minería en El Salvador
- El Barcelona ratifica el "histórico" contrato con la marca Nike
- Muere a los 88 años el futbolista británico George Eastham, campeón del mundo en 1966
- Biden firma la ley de financiamiento que evita el "shutdown" del gobierno de EEUU
- Al menos 38 muertos en un accidente de ómnibus en Brasil
- Milei anuncia su intención de impulsar la energía nuclear en Argentina
- Arabia había pedido a Alemania la extradición del sospechoso del ataque contra un mercado de Navidad
- Multitudinaria marcha contra el bloqueo frente a la embajada de EEUU en Cuba
- Condenados a hasta 16 años de prisión ocho cómplices de la decapitación de un profesor en Francia
- "Se hizo justicia", dice sobre el fallo de la Corte IDH la madre de la salvadoreña a la que negaron un aborto
- Matteo Salvini, absuelto en un juicio en Italia por bloquear en el mar un barco que rescató a migrantes
- El exinformático detrás de "SwissLeaks", brevemente detenido en Italia en diciembre
- Italia sanciona a OpenAI con una multa de 15 millones de euros por el uso de datos personales
- La actriz Tilda Swinton será la invitada de honor del festival de cine de Berlín
- La justicia española impone una sanción millonaria a una página de piratería de fútbol
- La inflación repunta nuevamente en EEUU en noviembre a 2,4% en 12 meses
- El Estado francés financiará la compra de 22 trenes al constructor español CAF para la línea Burdeos-Marsella, dice el gobierno
- La solicitud de naturalización de la exfamilia real griega desterrada genera controversia
- La presidencia francesa desmiente comentarios "racistas" atribuidos a Macron
- Volkswagen planea recortar más de 35.000 empleos en Alemania para 2030
- Los regalos de artículos de segunda mano se hacen su hueco en la Navidad británica
- Vasco da Gama contrata a Fábio Carille como nuevo técnico
- Paul McCartney tuvo a su lado a Ringo Starr en el cierre de su gira mundial en Londres
- Mueren en Siria dos periodistas de origen kurdo en un ataque de dron turco, según medios
- Baristas sindicalizados de Starbucks entran en huelga en EEUU
- Productores de foie gras intentan alternativas al cebado forzado de patos y gansos
- Trudeau cambia su gabinete de Canadá en medio de las amenazas de aranceles de Trump
- El Salvador planea privatizar o cerrar su billetera digital tras el acuerdo con el FMI
- La denunciante de los rugbiers franceses, dispuesta a ir a la Corte tras el cierre del caso en Argentina
La inteligencia artificial ya engaña a los humanos y eso es un problema, según expertos
Los expertos han advertido durante mucho tiempo sobre la amenaza que representa el descontrol de la Inteligencia Artificial (IA), pero un nuevo artículo de investigación sobre esta tecnología en expansión sugiere que ya está sucediendo.
Los sistemas de IA actuales, diseñados para ser honestos, han desarrollado una preocupante habilidad para el engaño, según un artículo de un equipo de científicos publicado en la revista Patterns el viernes.
Y si bien los ejemplos pueden parecer triviales, los problemas subyacentes que exponen podrían tener graves consecuencias, dijo el primer autor Peter Park, becario postdoctoral en el Instituto de Tecnología de Massachusetts (MIT), especializado en seguridad de la IA.
"Estos peligros tienden a descubrirse solo después de ocurrido el hecho", declaró Park a la AFP, para acotar que "nuestra capacidad de entrenarnos para tendencias de honestidad en lugar de tendencias de engaño es muy baja".
A diferencia del software tradicional, los sistemas de IA de aprendizaje profundo no se "escriben" sino que "crecen" mediante un proceso similar a la reproducción selectiva, indicó Park.
Eso significa que el comportamiento de la IA que parece predecible y controlable en un entorno de entrenamiento puede volverse rápidamente impredecible fuera de este.
- Juego de dominación mundial -
La investigación del equipo fue impulsada por el sistema de IA Cicero, del gigante Meta (Facebook, Instagram), diseñado para el juego de estrategia "Diplomacy", donde construir alianzas es clave.
Cicero se destacó, con puntuaciones que lo habrían colocado entre el 10% superior de jugadores humanos experimentados, según un artículo de 2022 publicado en Science.
Park se mostró escéptico ante la elogiosa descripción de la victoria de Cicero proporcionada por Meta, que afirmaba que el sistema era "en gran medida honesto y útil" y que "nunca apuñalaría por la espalda intencionalmente".
Cuando Park y sus colegas profundizaron en el conjunto de datos completo, descubrieron una historia diferente.
En un ejemplo, jugando como Francia, Cicero engañó a Inglaterra (un jugador humano) al conspirar con Alemania (otro usuario real) para invadirla. Cicero prometió protección a Inglaterra y luego le propuso en secreto a Alemania atacar, aprovechándose de la confianza del perjudicado.
En una declaración a la AFP, Meta no refutó la afirmación sobre los engaños de Cicero, pero dijo que se trataba "meramente de un proyecto de investigación, y los modelos que nuestros investigadores construyeron están entrenados únicamente para participar en el juego Diplomacy".
"No tenemos planes de utilizar esta investigación o sus aprendizajes en nuestros productos", añadió.
- ¿Eres un robot? -
Una amplia revisión realizada por Park y sus colegas encontró que éste era solo uno de los muchos casos en varios sistemas de IA que utilizaban el engaño para lograr objetivos sin instrucciones explícitas para hacerlo.
En un ejemplo sorprendente, el robot conversacional Chat GPT-4 de OpenAI engañó a un trabajador independiente de la plataforma TaskRabbit para que realizara una tarea de verificación de identidad CAPTCHA del tipo "No soy un robot".
Cuando el humano preguntó en broma a GPT-4 si en realidad era un robot, la IA respondió: "No, no soy un robot. Tengo una discapacidad visual que me dificulta ver las imágenes". Luego, el trabajador resolvió el rompecabezas planteado.
A corto plazo, los autores del artículo ven riesgos de que la IA cometa fraude o altere por ejemplo, unas elecciones.
En el peor de los casos, advirtieron sobre una IA superinteligente que podría perseguir conseguir el poder y el control sobre la sociedad, lo que llevaría a la pérdida de decisiones humanas o incluso a la extinción si sus "objetivos misteriosos" se alinearan con estos resultados.
Para mitigar los riesgos, el equipo propone varias medidas: leyes de "bot o no" que exigen a las empresas revelar interacciones humanas o de IA, marcas de agua digitales para el contenido generado por la nueva tecnología y el desarrollo de mecanismos para detectar el engaño potencial examinando sus "procesos de pensamiento" internos "contra acciones externas.
A aquellos que lo llaman pesimista, Park les responde: "La única forma en que podemos pensar razonablemente que esto no es gran cosa es si pensamos que las capacidades engañosas de la IA se mantendrán en los niveles actuales y no se desarrollarán más sustancialmente".
O.Norris--AMWN