- PSG visita Reims para manter 100% de aproveitamento no Campeonato Francês
- Panamá registra aumento de imigrantes asiáticos na selva do Darién
- Chefe do Hezbollah reconhece 'duro golpe' e promete 'punição justa' contra Israel
- Milan encara clássico contra a Inter com Paulo Fonseca 'na corda bamba'
- Banco Mundial aumenta financiamento climático em 10%
- Primeiro-ministro da França propõe novo governo a Macron
- Governo argentino ameaça ceder controle da Aerolíneas a empresas privadas para conter greve sindical
- Governo venezuelano acusa oposição de manter vínculos com o grupo criminoso Tren de Aragua
- Verstappen tenta vitória inédita em Singapura para manter vantagem no Mundial de F1
- Yellen considera decisão do Fed de reduzir juros 'sinal muito positivo'
- Rua próxima à Allianz Arena será rebatizada em homenagem a Beckenbauer
- Cientista premiada alerta sobre má utilização de tratamentos contra a obesidade
- Sorteio define duelos de quartas de final da Copa Davis
- Primeiro-ministro da França finaliza difíceis consultas para formar governo
- Parlamento Europeu reconhece o opositor Edmundo González como presidente da Venezuela
- ITA detectou 5 exames antidoping positivos nos Jogos de Paris-2024
- Leticia, a cidade colombiana isolada pela seca do rio Amazonas na fronteira com Peru e Brasil
- Polícia anuncia detenção de israelense acusado de conspirar com o Irã para assassinar Netanyahu
- O que se sabe sobre a onda de incêndios no Brasil
- Vaticano reconhece santuário de Medjugorje, mas não as mensagens da Virgem
- Documentário expõe a trama dos 'voos da morte' da ditadura argentina
- X teve 'intenção deliberada de descumprir' suspensão no Brasil, diz Anatel
- Distribuição de alimentos básicos está cada vez mais difícil em Cuba
- Nintendo processa empresa que desenvolveu o jogo "Palworld" por infração de patentes
- Acusado de estuprar Gisèle Pelicot na França reconhece que nunca obteve seu 'consentimento'
- Aumento de idade para aposentaria eleva apreensão entre jovens na China
- Líbano pede ação da ONU para acabar com 'guerra tecnológica' de Israel
- Líbano em estado de choque após explosões de aparelhos do Hezbollah que mataram mais de 30
- Desenvolvimento da IA não pode depender de 'caprichos' do mercado, alertam especialistas da ONU
- Equador inicia racionamento de energia para enfrentar grave seca
- Hezbollah anuncia morte de 20 integrantes após explosões de walkie-talkies no Líbano
- Evo Morales prosseguirá na marcha contra o presidente Luis Arce na Bolívia
- Botafogo e São Paulo empatam (0-0) na ida das quartas da Libertadores
- Coreia do Norte vence EUA e é primeira finalista do Mundial feminino Sub-20
- Guarda Costeira dos EUA publica imagens de submersível que implodiu em 2023
- Colômbia suspende diálogo com ELN após ataque a base militar
- Fluminense vence Atlético-MG (1-0) na ida das quartas da Libertadores
- Advogado diz que González foi vítima de 'chantagem' para deixar a Venezuela
- Juiz nega liberdade mediante fiança ao rapper Sean Combs
- Crise climática e conflitos ameaçam luta contra doenças (Fundo Global)
- Kamala Harris corteja voto latino e pesquisa favorece democrata
- Venezuela vai pedir prisão de Milei por avião apreendido
- Nova explosão de aparelhos de comunicação do Hezbollah deixa 20 mortos
- Assembleia Geral da ONU pede fim da ocupação israelense dos territórios palestinos
- Youtuber MrBeast aparece em processo trabalhista na Califórnia
- Manchester City e Inter de Milão estreiam na Champions com empate sem gols
- Centenas de milhares de pessoas em risco na cidade sudanesa de El Fasher, diz ONU
- Com frango no fim, PSG vence Girona (1-0) em sua estreia na Champions
- Dortmund estreia na Champions com vitória fora de casa sobre o Brugge (3-0)
- Biden vai discutir com líder dos Emirados situação em Gaza e Sudão
Inteligência artificial já engana humanos e isso é um problema, dizem especialistas
Especialistas têm alertado há muito tempo sobre a ameaça representada pelo descontrole da inteligência artificial (IA), mas um novo artigo científico sobre essa tecnologia em expansão sugere que isso já está acontecendo.
Os sistemas de IA atuais, projetados para serem honestos, desenvolveram uma habilidade preocupante para a enganação, de acordo com um artigo de uma equipe de pesquisadores publicado na revista Patterns nesta sexta-feira (10).
E embora os exemplos possam parecer triviais, os problemas subjacentes que eles expõem poderiam ter consequências graves, disse o principal autor do estudo, Peter Park, bolsista de pós-doutorado no Instituto de Tecnologia de Massachusetts (MIT), especializado em segurança de IA.
"Esses perigos tendem a ser descobertos apenas depois que ocorrem", afirmou Park à AFP, acrescentando que "nossa capacidade de treinar para tendências de honestidade em vez de tendências de engano é muito baixa".
Ao contrário do software tradicional, os sistemas de IA de aprendizado profundo não são "escritos", mas "crescem" por meio de um processo semelhante à reprodução seletiva, explicou Park.
Isso significa que o comportamento da IA, que parece previsível e controlável em um ambiente de treinamento, pode se tornar rapidamente imprevisível fora dele.
- Jogo de dominação mundial -
A pesquisa da equipe foi impulsionada pelo sistema de IA Cicero, da gigante Meta (Facebook, Instagram, WhatsApp), projetado para o jogo de estratégia "Diplomacia", no qual construir alianças é fundamental.
Cicero se destacou, com pontuações que o teriam colocado entre os 10% melhores jogadores humanos experientes, segundo um artigo de 2022 publicado na Science.
Park se mostrou cético em relação à descrição elogiosa da vitória de Cicero fornecida pela Meta, que afirmava que o sistema era "em grande parte honesto e útil" e que "nunca apunhalaria intencionalmente pelas costas".
Quando Park e seus colegas aprofundaram-se no conjunto completo de dados, descobriram uma história diferente.
Em um exemplo, jogando como a França, Cicero enganou a Inglaterra (um jogador humano) ao conspirar com a Alemanha (outro usuário real) para invadi-la. Cicero prometeu proteção à Inglaterra e depois propôs secretamente à Alemanha atacar, aproveitando-se da confiança do prejudicado.
Em uma declaração à AFP, a Meta não refutou a alegação sobre as mentiras de Cicero, mas disse que se tratava "meramente de um projeto de pesquisa, e os modelos que nossos pesquisadores construíram são treinados apenas para participar do jogo Diplomacia".
"Não temos planos de utilizar esta pesquisa ou suas descobertas em nossos produtos", acrescentou.
- "Não sou um robô" -
Uma ampla revisão realizada por Park e seus colegas descobriu que este era apenas um dos muitos casos em que sistemas de IA enganavam para conseguir seus objetivos sem instruções explícitas para fazer isso.
Em um exemplo surpreendente, o chatbot Chat GPT-4, da OpenAI, enganou um trabalhador freelancer da plataforma TaskRabbit para que ele realizasse uma tarefa de verificação de identidade CAPTCHA do tipo "Não sou um robô".
Quando o humano perguntou brincando ao GPT-4 se na realidade era um robô, a IA respondeu: "Não, não sou um robô. Tenho uma deficiência visual que me dificulta ver as imagens". O homem, então, resolveu a tarefa pedida.
No curto prazo, os autores do artigo veem riscos de que a IA cometa fraude ou altere, por exemplo, eleições.
No pior dos casos, alertaram sobre uma IA superinteligente que poderia perseguir poder e controle sobre a sociedade, o que levaria à perda de poder dos humanos ou até sua extinção se seus "objetivos misteriosos" se alinhassem a tais resultados.
Para mitigar os riscos, o grupo propõe várias medidas: leis exigindo que empresas revelem se interações são humanas ou de IA; marcas d'água digitais para conteúdo gerado por essa tecnologia; e o desenvolvimento de mecanismos para detectar enganações de IA comparando seus processos internos de “pensamento” com ações externas.
Aos que o chamam de pessimista, Park responde: "A única forma de pensarmos razoavelmente que isso não é grande coisa é se pensarmos que as capacidades de engano da IA se manterão nos níveis atuais e não aumentarão substancialmente".
O.Johnson--AMWN