OpenAI suspende vídeos de Martin Luther King após indignação por deepfakes / foto: Mandel Ngan - AFP/Arquivos
OpenAI suspende vídeos de Martin Luther King após indignação por deepfakes
A OpenAI suspendeu a criação de vídeos do ícone dos direitos civis americano Martin Luther King Jr. através de sua ferramenta de inteligência artificial Sora 2, após sua família reclamar de representações desrespeitosas.
Os herdeiros do líder dos direitos civis assassinado e a OpenAI anunciaram, em um comunicado conjunto na noite de quinta-feira, que a empresa pausaria as gerações que representam King enquanto "fortalece as medidas de segurança para figuras históricas".
A decisão ocorre enquanto famílias de celebridades e líderes falecidos têm expressado indignação pela ferramenta de vídeo Sora 2, da OpenAI, que permite aos usuários criar clipes realistas de figuras históricas sem o consentimento da família.
Alguns usuários haviam gerado vídeos mostrando King fazendo sons de macaco durante seu discurso "Eu Tenho um Sonho" e outros conteúdos degradantes, segundo o The Washington Post.
Vídeos reanimando outras figuras falecidas, incluindo Malcolm X, Michael Jackson, Elvis Presley e Amy Winehouse, têm inundado as redes sociais desde o lançamento do Sora 2, em 30 de setembro.
"Embora existam fortes interesses de liberdade de expressão na representação de figuras históricas, a OpenAI acredita que figuras públicas e suas famílias deveriam ter controle sobre como sua imagem é utilizada", disse o comunicado conjunto.
A empresa disse que representantes autorizados ou proprietários do patrimônio agora podem solicitar que suas imagens não sejam utilizadas em vídeos gerados por IA no Sora.
A OpenAI agradeceu a Bernice King, filha de King, "por entrar em contato", assim como ao empresário John Hope Bryant e ao Conselho de Ética de IA "por criar um espaço para conversas como esta".
A ferramenta de texto para vídeo subiu ao topo das listas de downloads desde seu lançamento, mas gerou controvérsia imediata.
A filha do ator Robin Williams, Zelda Williams, pediu às pessoas no Instagram: "Parem de me enviar vídeos de IA do papai", classificando o conteúdo como "enlouquecedor".
Ilyasah Shabazz, filha de Malcolm X, disse ao The Washington Post que era "profundamente desrespeitoso" ver a imagem de seu pai utilizada em vídeos de IA grosseiros e insensíveis.
Malcolm X foi assassinado na frente de Shabazz em 1965 quando ela tinha apenas dois anos.
A OpenAI inicialmente havia isentado as "figuras históricas" dos requisitos de consentimento ao lançar o Sora 2 no mês passado, permitindo que qualquer pessoa criasse vídeos falsos que ressuscitavam figuras públicas.
I.Viswanathan--DT
