A gigante BBC, do Reino Unido, ficou bastante irritada com a forma como o resumo de notificações da Apple Intelligence descreveu uma manchete sobre Luigi Mangione, suposto assassino do CEO 1 Chief executive officer, ou diretor executivo. da United Healthcare, Brian Thompson — caso que tomou o noticiário global no início do mês.
Em uma matéria publicada na última sexta-feira (13/12), a rede notícias compartilhou uma captura de tela a qual mostra um resumo feito pelo recurso com base em uma série de notificações do seu app para iOS, entre as quais havia uma notícia sobre o caso Mangione.

“Luigi Mangione atira em si mesmo; mãe síria espera que Assad pague o preço; polícia da Coreia do Sul invade o escritório de Yoon Suk Yeol”, diz o resumo em questão (em tradução livre). Acontece que, obviamente, o suposto atirador não suicidou-se — imprecisão que causou certa confusão entre leitores da BBC.
Irritada com o erro, a gigante britânica notificou oficialmente a Apple, que ainda não comentou essa gafe do seu mais novo recurso, que foi liberado junto ao iOS 18.1. Um porta-voz da rede de notícias falou sobre o erro e pediu para que a Maçã conserte essas imprecisões:
A BBC News é a mídia de notícias mais confiável do mundo. É essencial para nós que nosso público possa confiar em qualquer informação ou jornalismo publicado em nosso nome, e isso inclui notificações.
E não foi só a BBC que sofreu com esse problema nas últimas semanas: como destacado pela própria gigante britânica, três manchetes do The New York Times foram aglutinadas e resumidas de forma imprecisa em 21 de novembro:

Na ocasião, a Apple Intelligence disse incorretamente que o primeiro-ministro de Israel, Benjamin Netanyahu, havia sido preso, quando na verdade o Tribunal Penal Internacional apenas emitiu um mandado de prisão para ele.
Consultado pela BBC, Petros Iosifidis, professor de política de mídia na City University em Londres, chamou o erro do recurso da Maçã de “embaraçoso”:
Posso ver a pressão chegando primeiro ao mercado, mas estou surpreso que a Apple tenha colocado seu nome em um produto tão comprovadamente malfeito. […] Sim, vantagens potenciais estão lá — mas a tecnologia ainda não está pronta e há um perigo real de espalhar desinformação.
Vale notar que o resumo de notificações da Apple Intelligence, presente não só no iOS 18.1, mas também no iPadOS 18.1 e no macOS Sequoia 15.1 (ou mais recentes), só funciona em inglês (por enquanto).
via 9to5Mac
Atualização, por Douglas Nascimento 20/12/2024 às 18:43
Após a repercussão negativa do imbróglio envolvendo a BBC, a organização não governamental internacional Repórteres Sem Fronteiras (RSF) solicitou que a Apple desabilite o recurso de resumo de notificações da Apple Intelligence.
De acordo com o órgão, o episódio mostra a “incapacidade dos sistemas de IA de publicar sistematicamente informações de qualidade, mesmo quando se baseiam em fontes jornalísticas”.
Esse incidente ilustra que os serviços generativos de IA ainda são muito imaturos para produzir informações confiáveis para o público e não devem ser permitidos no mercado para tais usos.
O pedido da RSF ainda pressiona por regulações mais rígidas envolvendo a produção automatizada de informações — algo que não está previsto nem mesmo pela lei da União Europeia para IA.
via MacRumors
Notas de rodapé
- 1Chief executive officer, ou diretor executivo.