Fotos de Donald Trump ser preso por policiais se tornou viral esta semana, depois que o ex-americano O presidente anunciou que provavelmente será indiciado no Tribunal Distrital de Manhattan na terça-feira (21 de março).
o pagamentoproblema? As fotos eram na verdade falsas criadas em um gerador de arte AI por Eliot Higgins, fdebaixo de meio de pesquisa Bellingcatusando prompts simples como “Donald Trump caindo ao ser preso”.
De acordo com Higgins, ele estava apenas experimentando as capacidades do gerador e não tinha intenção de levar ninguém a pensar que Trump havia realmente sido preso. No entanto, isso não impediu que as fotos fossem compartilhadas na web e vistas mais de 5 milhões de vezes.
Agora, Trump entrou na diversão, compartilhe novamente uma imagem sua criada artificialmente orando solenemente, com a legenda exigindo que os apoiadores de Trump “orassem por este homem”. Embora a foto não se rotule como uma imagem gerada por IA, ela mostra muitos dos sinais reveladores, como a falta de um dedo na mão direita de Trump e figuras desproporcionais ao fundo.
G/O Media pode receber uma comissão
um anterior postar no twitter com a mesma imagem mostra milhares de respostas da base de Trump, aparentemente acreditando ser uma foto real do ex-presidente rezando, com comentários dizendo “amo esta foto” e “isso é poderoso.”
A Distinção da Desinformação
Higgins não achava que as fotos postadas em seu tópico no Twitter enganariam ninguém. Com irregularidades como membros extras e corpos desproporcionaisassim como situações cada vez mais ridículas (em uma, Trump está limpando um banheiro de prisão em um macacão laranja), as fotos são claramente falsas. Mas eles ainda se tornaram virais e, ao longo do caminho, provavelmente confundiram muitas pessoas, pelo menos à primeira vista.
“Eu presumi que as pessoas pensariam que um Trump de três pernas era fora do comum, mas não sabia se uma pessoa comum notaria”, disse Higgins ao Quartz. via email.
Higgins disse que é duvidoso que fotos como as que ele postou sejam usadas no tribunal, ou mesmo como fonte de notícias, já que falhariam na maioria dos processos de autenticação. No entanto, ele admite que provavelmente serão usados para semear confusão em cantos não regulamentados e de ritmo acelerado da Internet.
“Existem imagens como evidência e imagens como informação ou, no caso de imagens geradas por IA, imagens como desinformação”, disse Higgins. “No mínimo, o tópico que postei demonstra a rapidez com que as imagens que atraem os interesses e preconceitos das pessoas podem se tornar virais, e a verificação de fatos é algo que leva muito mais tempo do que um retuíte.”
Quem é responsável pela desinformação da IA?
Midjourney, a empresa que criou o gerador de arte AI, proibiu Higgins de usar o serviço. Ele fez isso sem explicação, disse Higgins, mas presumivelmente considerou que suas fotos violavam as políticas da empresa. A decisão levanta a questão: quem é o responsável final pelas consequências de imagens falsas como essas?
Como a tecnologia de IA supera rapidamente a regulamentação, a culpa por imagens falsas continua sendo uma área cinzenta, em grande parte deixada a critério de empresas privadas.
Mas o senador norte-americano Mark Warner, o democrata da Virgínia que preside o Comitê de Inteligência do Senado, quer que as empresas que fabricam fotogeradores, ou outras ferramentas para criar informações falsas, saibam que podem ser responsabilizadas por seu conteúdo. Os desenvolvedores “devem estar cientes agora: se o seu produto permite diretamente danos que são razoavelmente previsíveis, você pode ser potencialmente responsável”, disse Warner disse ao Washington Post depois que a imagem se tornou viral.
Gol, por outro lado, ditado rotulou as imagens de Higgins de “enganosas” no Facebook e no Instagram. Mas Fotos falsas de Trump em um macacão laranja ele permaneceu facilmente acessível pesquisando a hashtag “#trumparrested”.
Enquanto isso, a série de fotos postadas por Higgins, claramente marcadas como falsas, permanece no Twitter.
Histórias relacionadas:
🖥️ Os melhores exemplos da estranha e bela arte de IA de DALL-E 2
📷 A era das fotos geradas por IA facilmente falsificadas está emergindo rapidamente
📱Donald Trump retorna ao Facebook e Twitter, se Truth Social não atrapalhar
