Até o Papa está preocupado que a humanidade precise de ‘proteção’ da IA – ele mesmo foi alvo de um deepfake.

O Papa está preocupado com a necessidade de proteção da IA, após ser alvo de um deepfake.

Num anúncio – normalmente divulgado com bastante antecedência – o Papa Francisco delineou o tema do Dia Mundial da Paz em 2024 que se concentrará em ‘Inteligência Artificial e Paz’.

A declaração acompanhante do líder da Igreja Católica Romana afirmou: “os avanços notáveis feitos no campo da inteligência artificial estão tendo um impacto cada vez maior nas atividades humanas, na vida pessoal e social, na política e na economia”.

O pontífice fez alusão a um medo subjacente que também foi destacado pela Organização Mundial da Saúde: os preconceitos inerentes incorporados à tecnologia que podem acabar influenciando decisões críticas sobre o futuro da saúde, emprego, cadeias de suprimentos e muito mais.

O Papa Francisco escreveu que a sociedade precisa estar “vigilante” e “trabalhar para que uma lógica de violência e discriminação não se enraíze na produção e uso de tais dispositivos, em detrimento dos mais frágeis e excluídos”. Injustiças percebidas ou reais podem alimentar “conflitos e antagonismos”.

A declaração acrescenta que, para que a tecnologia seja implantada de forma responsável, o uso ético deve ser refletido na educação e na legislação, para que a IA seja usada para o “serviço da humanidade e a proteção de nosso lar comum”.

Ele concluiu que proteger a dignidade das pessoas e se preocupar com a humanidade são “condições indispensáveis” se a tecnologia for usada para “[promover] justiça e paz no mundo”.

Sua advertência se une ao clamor de cautela de algumas das principais figuras da indústria de tecnologia. Cerca de 33.000 profissionais de tecnologia, acadêmicos e empreendedores agora assinaram uma carta aberta do Instituto Future of Life pedindo uma pausa nos chamados “experimentos gigantes de IA”.

A polêmica surgiu após o lançamento do ChatGPT da OpenAI, um lançamento que desencadeou uma reação em cadeia, com empresas como Google, Microsoft, Meta e Amazon correndo para lançar seus próprios disruptores de IA.

Um papa de casaco fofo provou o quão facilmente a IA pode espalhar desinformação

Se ele sabe ou não, o papa foi o tema de uma imagem deepfake criada por IA no início deste ano, que se tornou viral.

Na suposta fotografia, o líder religioso, que veio de origens humildes em sua Argentina natal, é visto supostamente usando um casaco fofo branco da marca espanhola Balenciaga.

O papa de casaco fofo é falso, mas o impacto da arte da IA é real https://t.co/bgELW6dVc0 pic.twitter.com/FciFp6MjPU

— Polygon (@Polygon) 27 de março de 2023

A criação se espalhou rapidamente pela internet, com a modelo e autora Chrissy Teigen twittando: “Eu pensei que o casaco fofo do papa fosse real e não pensei duas vezes. De jeito nenhum vou sobreviver ao futuro da tecnologia”.

Eu pensei que o casaco fofo do papa fosse real e não pensei duas vezes. De jeito nenhum vou sobreviver ao futuro da tecnologia

— chrissy teigen (@chrissyteigen) 26 de março de 2023

Em março, Pablo Xavier, o homem que afirma ter criado a imagem, disse ao BuzzFeed News que estava sob efeito de drogas quando fez a semelhança.

A imagem não foi criada para criticar o pontífice, disse Pablo Xavier: “Eu só achei engraçado ver o papa usando um casaco engraçado”.

A foto viral do papa veio após imagens igualmente fictícias criadas do ex-presidente Donald Trump supostamente sendo preso, que foram compartilhadas nas redes sociais sem reconhecimento de que eram falsas.

As imagens foram feitas por Eliot Higgins, fundador da plataforma investigativa de código aberto Bellingcat, que disse ao Washington Post: “Eu estava apenas brincando. Eu pensei que talvez cinco pessoas retuitassem”.

Órgãos oficiais, desde o FBI até o governo da Ucrânia, emitiram avisos sobre imagens deepfake. No mês passado, Bill Gates, que é cautelosamente otimista em relação a grandes modelos de linguagem e IA, escreveu em seu blog que “deepfakes e desinformação gerada por IA podem minar eleições e democracia”.

“Imagine que, na manhã de uma eleição importante, um vídeo mostrando um dos candidatos roubando um banco se torne viral”, escreveu o cofundador da Microsoft. “É falso, mas leva horas para os veículos de notícias e a campanha provar isso. Quantas pessoas verão e mudarão seus votos no último minuto? Isso pode desequilibrar a balança, especialmente em uma eleição acirrada”.