Meta começará a rotular imagens geradas por IA de empresas como OpenAI, Google, A Meta Platforms começará a detectar e rotular imagens geradas por serviços de inteligência artificial de outras empresas nos próximos meses, usando um conjunto de marcadores invisíveis incorporados aos arquivos, disse hoje seu principal executivo político.
A Meta aplicará os rótulos a qualquer conteúdo que contenha os marcadores postados em seus serviços Facebook, Instagram e Threads, em um esforço para sinalizar aos usuários que as imagens – que em muitos casos se assemelham a fotos reais – são na verdade criações digitais, disse o presidente da empresa. de assuntos globais, escreveu Nick Clegg em uma postagem de blog.
A empresa já rotula qualquer conteúdo gerado com suas próprias ferramentas de IA.
Assim que o novo sistema estiver instalado e funcionando, o Meta fará o mesmo com imagens criadas em serviços executados pela OpenAI, Microsoft, Adobe, Midjourney, Shutterstock e Google da Alphabet, disse Clegg.
O anúncio fornece uma visão antecipada de um sistema emergente de padrões de tecnologia que as empresas estão desenvolvendo para mitigar os danos potenciais associados às tecnologias generativas de IA, que podem cuspir conteúdo falso, mas de aparência realista, em resposta a instruções simples.
A abordagem baseia-se num modelo estabelecido ao longo da última década por algumas das mesmas empresas para coordenar a remoção de conteúdos proibidos em plataformas, incluindo representações de violência em massa e exploração infantil.
Em entrevista, Clegg disse à Reuters que se sentia confiante de que as empresas poderiam rotular imagens geradas por IA de forma confiável neste momento, mas disse que as ferramentas para marcar conteúdo de áudio e vídeo eram mais complicadas e ainda estavam em desenvolvimento.
“Mesmo que a tecnologia ainda não esteja totalmente madura, especialmente quando se trata de áudio e vídeo, a esperança é que possamos criar uma sensação de impulso e incentivo para o resto da indústria seguir”, disse Clegg.
