A OpenAI anunciou nessa terça-feira (6) que vai adicionar marcas d’água e metadados para identificar imagens geradas no DALL-3, atendendo aos novos padrões da Coalition for Content Provenance and Authencity (C2PA), uma iniciativa que visa combater informações enganosas na internet. A novidade coincide com o anúncio da Meta, que também prometeu marcar conteúdos gerados por IA .
A intenção da OpenAI de aderir ao projeto da C2PA é evitar que conteúdo realista gerado por IA considerado seja usado para propagar fake news e desinformação, dispondo de um mecanismo para rastrear a origem do material.
Marca de autenticidade
O padrão C2PA é uma tecnologia capaz de adicionar um símbolo CR (uma espécie de carimbo interativo) nas imagens, e ele pode conter informações detalhadas do conteúdo — como em qual plataforma a foto foi gerada ou o nome do aplicativo que foi usado para criar o registro.
-
Baixe nosso aplicativo para iOS
e Android
e acompanhe em seu smartphone as principais notícias de tecnologia em tempo real.
-
Na mesma publicação, a OpenAI também revelou que vai adotar o padrão para o aplicativo do ChatGPT a partir de 12 de fevereiro (vale lembrar que o chatbot também é capaz de criar imagens ). Essa marca d’água ficaria disposta no canto superior esquerdo da imagem e, através dela, seria possível conferir uma versão detalhada com todos os metadados.
Além disso, a Big Tech garante que, em um primeiro momento, os selos de autenticidade não terão impacto no peso das imagens. No caso, os arquivos continuarão possuindo somente alguns kilobytes ou megabytes nos formatos WEBP e PNG, respectivamente.
Há um porém...
Embora a adição de marcas d’água em imagens geradas pelo DALL-E 3 seja vista com bons olhos, a OpenAI admite que o sistema pode ser evitado com facilidade e que os metadados contidos nas imagens podem ser excluídos de forma acidental ou não.
“Metadados como C2PA não são uma solução mágica para garantir a origem das imagens. É algo que pode ser facilmente removido acidental ou intencionalmente", revela a companhia em nota. "Por exemplo, a maioria das plataformas de mídia social remove metadados de imagens enviadas, e ações como tirar uma captura de tela também o fazem. Assim, o fato de não possuir metadados não é conclusivo se eles foram gerados com ChatGPT e nossa API ou não”, finaliza a OpenAI.
Portanto, fica o desafio não só para a OpenAI, mas também para outras empresas que contam com APIs e criadores de imagens com base em IA generativa .
Leia a matéria no Canaltech .
Trending no Canaltech:
- 12 aplicativos antigos que ainda existem e funcionam
- Quarteto Fantástico confirma segredo nojento sobre Reed Richards
- Por que ainda não achamos alienígenas? Buraco negro pode ser resposta
- 🤑 DESCONTÃO | Compre Acer Nitro 5 com RTX 3050 em ótima oferta
- iPhone 16 surge com novo design em possível esquema vazado
- O céu não é o limite! | Aurora rara, lander japonês, lago em Marte e mais