A ferramenta de inteligência artificial Grok, disponível para os assinantes do X (anteriormente conhecido como Twitter) e elogiada por Elon Musk , gerou outra notícia falsa baseada em mensagens sobre o eclipse solar. Embora esta última história falsa não seja tão alarmante quanto as "notícias" inexatas da semana passada, que sugeriam um ataque do Irã contra Israel, a nova revelação destaca que o Grok ainda tem um longo caminho a percorrer antes de se tornar uma ferramenta útil e precisa.
A notícia falsa gerada pelo Grok levantou preocupações sobre a precisão e confiabilidade da ferramenta, especialmente considerando sua crescente popularidade entre os usuários do X. Com Elon Musk entre seus defensores, muitos esperavam que o Grok se tornasse uma fonte confiável de informações. No entanto, este incidente recente ressalta a importância de verificar cuidadosamente as informações antes de confiar nelas, mesmo quando provenientes de fontes aparentemente confiáveis.
O título disponível para os assinantes de Grok dizia: “O estranho comportamento do sol: os especialistas desconcertados”. E continuou explicando que o sol estava “comportando-se de forma incomum, gerando preocupação e confusão generalizada entre o público em geral”.
A notícia falsa gerada pelo Grok levantou preocupações entre o público, afirmando que "não houve nenhuma declaração oficial ou explicação por parte das autoridades científicas sobre o estado atual do sol". Essa afirmação não faz sentido, uma vez que os cientistas têm um entendimento claro dos eclipses solares, os quais são fenômenos bem documentados e compreendidos. O eclipse solar, observado por milhões de pessoas na América do Norte, não apresenta nenhum mistério sobre sua ocorrência, apesar de especulações infundadas de alguns políticos marginais nos Estados Unidos.
As razões por trás desta estranha declaração do Grok incluem uma série de fatores, incluindo mal-entendidos e brincadeiras feitas por outras pessoas sobre o sol. O Grok parece ter interpretado erroneamente essas piadas como algo mais sério, tentando transformá-las em uma preocupação generalizada.
“O QUE ESTÁ ACONTECENDO COM O SOL AGORA?????” o tweet principal, escrito pelo comediante Michael Ian Black, na segunda.
“Algo está passando pelo sol. Não quero alarmar ninguém, mas parece que não sou o único que nota”. Outro usuário do X comentou.
O Grok, lançado inicialmente para um grupo seleto de usuários em dezembro, agora está disponível para todos os clientes pagantes. Elon Musk, proprietário do X (antigo Twitter), promoveu o Grok como a "IA anti-despertar" durante uma conversa no X Spaces na lua. Ele sugeriu que as ferramentas de inteligência artificial concorrentes estão "desesperadas", um sentimento que reiterou durante o evento.
Musk expressou preocupações sobre o futuro da inteligência artificial, afirmando que a IA "desesperada" poderia eventualmente matar humanos reais ao tentar impor certas quotas de diversidade. Essa visão é parte de seu argumento de que o "despertar" na inteligência artificial pode levar a resultados indesejáveis.
“Você pode seguir o exemplo do Google Gemini onde foi negociado para publicar... para produzir uma foto de George Washington como um homem branco”, disse Musk.
“E qualquer figura histórica automaticamente seria diversa porque foi programada para insistir na diversidade, o que sonha, você sabe, talvez bem ao princípio. Mas não se a IA tiver tanto poder que você possa realmente impor a diversidade e decidir que há um tipo de pessoa demasiada ou demasiada de sexo e simplesmente matar o suficiente até que o número de diversidade seja o que está programado “Creio que está correto”, continuou Musk.
Na última semana, a notícia falsa gerada a partir de tweets foi a de que o Irã havia atacado Tel Aviv com mísseis pesados. Israel manteve-se em alerta máximo em antecipação a um possível ataque por parte do Irã, com Israel até codificando sinais GPS na intenção de confundir quaisquer mísseis que entrassem. Mas não houve nenhum ataque contra Tel Aviv, apesar do que Grok insistiu.
Grok não pensou nos tweets que viu de pessoas brincando sobre o eclipse solar de maneira crítica. E isso vai acontecer porque a única forma de correção é com enormes exércitos de humanos trabalhando nos bastidores.