O Google anunciou a ampliação de seu Programa de Recompensas de Vulnerabilidades (VRP) para incluir falhas de segurança em modelos de inteligência artificial. A empresa decidiu incluir cenários de ataque a esses sistemas frente ao aumento de aplicações com IA e aos riscos que elas representam.
- IA generativa do Google, Duet AI é liberado para todos
- Bard vai levar IA generativa ao Google Assistente
O programa de bug bounty do Google paga hackers éticos pela descoberta de brechas de segurança que possam ser exploradas por agentes maliciosos. Segundo a companhia, mais de US$ 12 milhões foram pagos em recompensas no ano de 2022.
Riscos em IA
A decisão do Google de atualizar o seu programa de recompensas acompanha uma crescente preocupação em relação ao uso generalizado de inteligência artificial em serviços e aplicações.
-
Siga no Instagram
: acompanhe nossos bastidores, converse com nossa equipe, tire suas dúvidas e saiba em primeira mão as novidades que estão por vir no Canaltech.
-
Novos problemas de segurança surgem com a implementação da tecnologia, incluindo o potencial discriminatório dos algoritmos e a possibilidade de manipulação dos modelos de linguagem para usos criminosos.
A companhia informou que a expensão do Bug Bounty foi definida após as descobertas recentes de um time interno de hackers que analisou as maiores ameaças e pontos de baixa segurança em produtos que utilizam IA generativa .
Essa equipe identificou brechas perigosas, incluindo a possibilidade de inserção de prompts de comando que podem modificar o comportamento de um modelo de linguagem para produzir conteúdos ofensivos ou vazar informações sensíveis.
Outro risco analisado pelo time consiste em um tipo de ataque que replica o treinamento de algoritmos para conseguir extrair informações pessoais e senhas de banco de dados.
O que o Google recompensa
Ameaças à segurança nesse nível agora fazem parte do programa de recompensas por descoberta de vulnerabilidade do Google.
Segundo a companhia, brechas que comprometem dados pessoais ou que dão acesso a informações sensíveis poderão ser reportados no Bug Bounty.
Atualmente, hackers do bem podem receber valores entre US$ 5 mil (para falhas em apps de baixa prioridade) até US$ 31 mil, caso identifique riscos mais graves.
Na atualização da política de recompensas, a empresa informa que não vai pagar por bugs que envolvem questões de direitos autorais ou extração de dados sobre informações públicas ou não confidenciais.
Leia a matéria no Canaltech .
Trending no Canaltech:
- Xiaomi 14 estreia com preço agressivo e tela OLED mais brilhante do mundo
- Seca no Rio Negro revela arte rupestre de 2000 anos em rochas de Manaus
- 🔥IMPERDÍVEL | Galaxy S23 Ultra em excelente preço com cupom exclusivo
- Elon Musk oferece US$ 1 bi para Wikipédia virar "Dickipedia"
- Five Nights at Freddy's | Qual a classificação indicativa do filme no Brasil?
- Galaxy S23 Plus | Quanto vale a pena pagar na Black Friday?