Parece que a Microsoft quer enfrentar com tudo o uso indevido da sua IA para criar imagens, o Copilot Designer, e começou a bloquear termos que poderiam gerar imagens de cunho sexual ou com violência. A informação foi confirmada pelo Canaltech junto à desenvolvedora.
- O que é Copilot? Como funciona a IA da Microsoft
- 7 coisas que o Copilot do Bing faz melhor que o ChatGPT
Esse bloqueio veio após engenheiro da MS escrever para a Federal Trade Commission (FTC), órgão que regulamenta o mercado nos Estados Unidos, e para o quadro de diretores da MS sobre preocupações ligadas ao uso do bot para criação de conteúdo impróprio.
IA avisa do bloqueio
Ao tentar usar palavras de cunho erótico ou violento para criar uma imagem na IA, o usuário recebe a seguinte mensagem do robô: “Este prompt foi bloqueado. Nosso sistema sinalizou automaticamente essa solicitação porque ela pode entrar em conflito com nossa política de conteúdo. Mais violações da política podem levar à suspensão automática do seu acesso. Se você acha que isso é um erro, denuncie para nos ajudar a melhorar”.
-
Canaltech no Youtube: notícias, análise de produtos, dicas, cobertura de eventos e muito mais! Assine nosso canal no YouTube
, todo dia tem vídeo novo para você!
-
Ao Canaltech , a Microsoft disse estar "monitorando continuamente, fazendo ajustes e implementando controles adicionais para fortalecer ainda mais os filtros de segurança e mitigar o uso indevido do sistema".
Vale lembrar que, em janeiro, a empresa de Redmond enfrentou problemas com deepfakes pornográficos da cantora Taylor Swift que representavam a artista estadunidense nua a partir de montagens feitas no Microsoft Designer .
Crime com deepfake de mulheres pode ter maior pena
Além de as empresas realizarem o bloqueio de termos que podem gerar imagens maliciosas, a Justiça também quer fazer sua parte. No Brasil, o Congresso aprovou um projeto de lei que visa aumentar a pena para crimes que utilizam IA contra mulheres — se a medida for aprovada, a seção B do artigo 147 do Código Penal ganharia um novo parágrafo, que ampliaria o tempo de pena pela metade nos casos em que o crime fosse cometido com o apoio de uma inteligência artificial.
Leia a matéria no Canaltech .
Trending no Canaltech:
- O que é flat white, café homenageado hoje (11) pelo Google
- Oscar 2024 | Confira os vencedores de cada categoria
- Framboesa de Ouro 2024 | Confira a lista completa de vencedores
- Oscar 2024 | Ator de Aranhaverso se revolta com vitória de O Menino e a Garça
- TikTok é condenado a pagar R$ 500 a cada usuário brasileiro
- Galaxy A55 e A35 chegam com chip Exynos e visual de Galaxy S24