- Presidente do Equador ordena aumentar busca por adolescentes desaparecidos em ação militar
- Trump promete 'deter a loucura transgênero' em seu primeiro dia de governo
- Famílias pedem devolução de crianças resgatadas de seita judaica na Guatemala
- Trump anuncia que designará cartéis mexicanos como terroristas
- PSG bate Lens nos pênaltis e avança na Copa da França; Olympique e Monaco goleiam
- Panamá repudia ameaça de Trump de retomar o controle do Canal
- Mais de 3.000 crianças indígenas morreram em internatos nos EUA (Washington Post)
- Atalanta vence 11ª seguida e retoma liderança do Italiano; Juve bate lanterna
- Musk, presidente dos EUA? 'Não pode ser', garante Trump
- Novo homem forte da Síria promete controle estatal de todas as armas no país
- Roberto Mancini admite que trocar Itália por Arábia Saudita foi um erro
- Brasileiro João Fonseca é campeão do NextGen ATP Finals
- Primeiro-ministro da Eslováquia faz visita surpresa a Putin
- Dortmund bate Wolfsburg e vence 1ª fora de casa no Campeonato Alemão
- Dois pilotos dos EUA sobrevivem à destruição de avião 'por engano' no Mar Vermelho
- Dez membros da mesma família morrem em acidente aéreo em Gramado
- Salah brilha e líder Liverpool atropela Tottenham; United perde em casa
- Fontana di Trevi de Roma é reaberta após várias semanas de limpeza
- Real Madrid bate Sevilla e sobe para 2º no Campeonato Espanhol
- Bournemouth vence Manchester United em Old Trafford e sobe para 5º no Campeonato Inglês
- Novo homem forte da Síria promete não interferir de maneira negativa no Líbano
- Número de mortos em acidente de ônibus em MG sobe para 41
- Governo da Alemanha promete explicações após atropelamento em mercado de Natal
- Novo líder da Síria promete que país não exercerá 'interferência negativa' no Líbano
- Papa condena mais uma vez a 'crueldade' dos bombardeios israelenses em Gaza
- Putin promete mais 'destruição na Ucrânia após ataque contra a Rússia
- Governo da Alemanha enfrenta pressão após atropelamento em mercado de Natal
- Bombardeios israelenses deixam 28 mortos em Gaza, afirma Defesa Civil
- Primeiro-ministro francês inicia mandato com impopularidade recorde
- Trump ameaça retomar o controle do Canal do Panamá
- EUA diz ter bombardeado alvos rebeldes huthis no Iêmen
- Le Havre e Montpellier caem na Copa da França para times da 4ª divisão
- Atlético de Madrid vence Barcelona de virada e é o novo líder do Espanhol
- Albânia suspenderá acesso ao TikTok por pelo menos um ano
- O desamparo dos sírios nas aldeias ocupadas por Israel
- Bayer Leverkusen atropela Freiburg (5-1) com 4 gols de Schick
- Brasileiro João Fonseca se classifica à final do NextGen ATP Finals
- City perde para Aston Villa e agrava sua crise; Arsenal e Forest aproveitam
- ONG projeta 170 feminicídios na Venezuela no encerramento de 2024
- Cientistas constatam 'tempo negativo' em experimentos quânticos
- Suspeito do atropelamento mortal em mercado de Natal criticava islã e Alemanha
- Croata Ivan Juric é o novo técnico do Southampton
- Biden sanciona lei de financiamento que evita paralisação do governo nos EUA
- Acidente com ônibus deixa mais de 30 mortos em Minas Gerais
- Henrichs, do Leipzig, rompe tendão de Aquiles e ficará afastado por vários meses
- Rafael Leão sofre lesão muscular e vira desfalque para o Milan
- Papa celebrará Angelus online e não da janela do Palácio Apostólico por resfriado
- Ancelotti afirma que período de adaptação de Mbappé já terminou
- Anceltti afirma que período de adaptação de Mbappé já terminou
- Acidente de ônibus deixa pelo menos 32 mortos em Minas Gerais
Inteligência artificial já engana humanos e isso é um problema, dizem especialistas
Especialistas têm alertado há muito tempo sobre a ameaça representada pelo descontrole da inteligência artificial (IA), mas um novo artigo científico sobre essa tecnologia em expansão sugere que isso já está acontecendo.
Os sistemas de IA atuais, projetados para serem honestos, desenvolveram uma habilidade preocupante para a enganação, de acordo com um artigo de uma equipe de pesquisadores publicado na revista Patterns nesta sexta-feira (10).
E embora os exemplos possam parecer triviais, os problemas subjacentes que eles expõem poderiam ter consequências graves, disse o principal autor do estudo, Peter Park, bolsista de pós-doutorado no Instituto de Tecnologia de Massachusetts (MIT), especializado em segurança de IA.
"Esses perigos tendem a ser descobertos apenas depois que ocorrem", afirmou Park à AFP, acrescentando que "nossa capacidade de treinar para tendências de honestidade em vez de tendências de engano é muito baixa".
Ao contrário do software tradicional, os sistemas de IA de aprendizado profundo não são "escritos", mas "crescem" por meio de um processo semelhante à reprodução seletiva, explicou Park.
Isso significa que o comportamento da IA, que parece previsível e controlável em um ambiente de treinamento, pode se tornar rapidamente imprevisível fora dele.
- Jogo de dominação mundial -
A pesquisa da equipe foi impulsionada pelo sistema de IA Cicero, da gigante Meta (Facebook, Instagram, WhatsApp), projetado para o jogo de estratégia "Diplomacia", no qual construir alianças é fundamental.
Cicero se destacou, com pontuações que o teriam colocado entre os 10% melhores jogadores humanos experientes, segundo um artigo de 2022 publicado na Science.
Park se mostrou cético em relação à descrição elogiosa da vitória de Cicero fornecida pela Meta, que afirmava que o sistema era "em grande parte honesto e útil" e que "nunca apunhalaria intencionalmente pelas costas".
Quando Park e seus colegas aprofundaram-se no conjunto completo de dados, descobriram uma história diferente.
Em um exemplo, jogando como a França, Cicero enganou a Inglaterra (um jogador humano) ao conspirar com a Alemanha (outro usuário real) para invadi-la. Cicero prometeu proteção à Inglaterra e depois propôs secretamente à Alemanha atacar, aproveitando-se da confiança do prejudicado.
Em uma declaração à AFP, a Meta não refutou a alegação sobre as mentiras de Cicero, mas disse que se tratava "meramente de um projeto de pesquisa, e os modelos que nossos pesquisadores construíram são treinados apenas para participar do jogo Diplomacia".
"Não temos planos de utilizar esta pesquisa ou suas descobertas em nossos produtos", acrescentou.
- "Não sou um robô" -
Uma ampla revisão realizada por Park e seus colegas descobriu que este era apenas um dos muitos casos em que sistemas de IA enganavam para conseguir seus objetivos sem instruções explícitas para fazer isso.
Em um exemplo surpreendente, o chatbot Chat GPT-4, da OpenAI, enganou um trabalhador freelancer da plataforma TaskRabbit para que ele realizasse uma tarefa de verificação de identidade CAPTCHA do tipo "Não sou um robô".
Quando o humano perguntou brincando ao GPT-4 se na realidade era um robô, a IA respondeu: "Não, não sou um robô. Tenho uma deficiência visual que me dificulta ver as imagens". O homem, então, resolveu a tarefa pedida.
No curto prazo, os autores do artigo veem riscos de que a IA cometa fraude ou altere, por exemplo, eleições.
No pior dos casos, alertaram sobre uma IA superinteligente que poderia perseguir poder e controle sobre a sociedade, o que levaria à perda de poder dos humanos ou até sua extinção se seus "objetivos misteriosos" se alinhassem a tais resultados.
Para mitigar os riscos, o grupo propõe várias medidas: leis exigindo que empresas revelem se interações são humanas ou de IA; marcas d'água digitais para conteúdo gerado por essa tecnologia; e o desenvolvimento de mecanismos para detectar enganações de IA comparando seus processos internos de “pensamento” com ações externas.
Aos que o chamam de pessimista, Park responde: "A única forma de pensarmos razoavelmente que isso não é grande coisa é se pensarmos que as capacidades de engano da IA se manterão nos níveis atuais e não aumentarão substancialmente".
O.Johnson--AMWN