Apple enfrenta críticas por erro em resumo de IA sobre assassinato

Apple enfrenta críticas por erro em resumo de IA sobre assassinato
Publicado em 14/12/2024 às 16:53

A BBC criticou a Apple após o recurso de resumo de notificações do Apple Intelligence distorcer uma manchete sobre Luigi Mangione, suspeito de assassinar Brian Thompson, CEO da UnitedHealthcare, sugerindo que ele teria atirado em si mesmo. Mangione foi erroneamente retratado em notificação que combinava três manchetes do aplicativo “BBC News” em um único resumo.

O resumo gerado dizia: “Luigi Mangione atira em si mesmo; mãe síria espera que Assad pague o preço; polícia da Coreia do Sul invade escritório de Yoon Suk Yeol”. Embora as partes sobre Bashar al-Assad e o presidente sul-coreano Yoon Suk Yeol estivessem corretas, a BBC contestou a deturpação envolvendo Mangione, argumentando que isso afetava a confiabilidade de suas informações.

Apple Intelligence
Recurso mudou a cara dos iPhones, mas ainda precisa de refino (Imagem: Divulgação/Apple)

“A BBC News é a mídia de notícias mais confiável do mundo. É essencial que nosso público confie em qualquer conteúdo publicado em nosso nome, incluindo notificações”, declarou um porta-voz da emissora. A corporação afirmou ter contatado a Apple para solicitar a correção do problema, mas a empresa de tecnologia não se pronunciou até o momento.

Leia mais:

Apple Intelligence ainda precisa ser refinado

  • Introduzido com o iOS 18.1, uma das funções do Apple Intelligence organiza notificações por aplicativo e apresenta um resumo no topo da lista, permitindo que o usuário visualize o texto completo ao tocar na notificação;
  • No entanto, erros recorrentes na ferramenta vêm levantando dúvidas sobre a confiabilidade do sistema;
  • Exemplos semelhantes já ocorreram, como um resumo que transformou a frase “aquela caminhada quase me matou” em “tentativa de suicídio“;
  • A BBC também destacou erros envolvendo outros veículos, como o The New York Times, cuja manchete sobre o primeiro-ministro israelense Benjamin Netanyahu também foi distorcida pela ferramenta;
  • Esses problemas são atribuídos a falhas na interpretação de modelos de linguagem grandes (LLMs, na sigla em inglês), como o utilizado pela Apple.
Montagem de pessoa segurando iPhone 16 com Apple Intelligence acionada
Usuários de iPhone já receberam outros resumos de IA equivocados (Imagem: Reprodução/YouTube/Apple)

Como remover as notificações inteligentes

Usuários insatisfeitos podem gerenciar quais notificações são resumidas no iPhone por meio do menu “Ajustes”, tocando em “Notificações” e, depois, em “Resumir Notificações”, desativando o recurso se necessário.