Fonte da imagem: IGN

IGN Articles.

Finji, editora de títulos indie adorados como Night in the Woods e Tunic e desenvolvedora por trás de Overland e Usual June, diz que a TikTok tem usado IA generativa para modificar seus anúncios na plataforma sem permissão e enviar esses anúncios para seus usuários sem o conhecimento de Finji, incluindo um anúncio que foi modificado para incluir um estereótipo racista e sexualizado de um dos personagens de Finji.

Isso foi mencionado pela primeira vez pela CEO e cofundadora da Finji, Rebekah Saltsman no céu azulonde ela compartilhou um screencap de uma postagem de mídia social de outra marca que parecia estar passando pela mesma coisa, e dizendo o seguinte: “Se acontecer de você ver algum anúncio de Finji que se pareça distintamente com o UN-Finji, envie-me um screencap.”

Junho incomum

De acordo com Saltsman em conversa com o IGN, a conta oficial de Finji no TikTok envia anúncios para seus jogos, mas tem “a IA totalmente desligada”. A equipe descobriu pela primeira vez que anúncios generativos de IA estavam sendo criados sem o seu conhecimento, graças a comentários nas redes sociais sobre os anúncios reais e regulares de Finji, feitos por usuários preocupados com o que estavam vendo. Saltsman conseguiu obter capturas de tela de membros do público mostrando os anúncios ofensivos, o que a levou a encaminhar o problema para o suporte do TikTok.

O anúncios originais em questão parecem ser vídeos anunciando os jogos de Finji, com um exibindo vários jogos e o outro focado em Usual June. As versões “aprimoradas” de IA, que aparecem no TikTok como se fossem postadas diretamente da conta oficial do Finji, parecem consistir em apresentações de slides em vez de vídeos, conforme indicado por uma série de comentários em ambos os anúncios. Finji enviou capturas de tela ao IGN enviadas por espectadores que afirmam ter visto a versão AI desses anúncios. Embora várias das imagens “aprimoradas” por IA pareçam relativamente não editadas em comparação com suas contrapartes oficiais, uma imagem vista pelo IGN está visivelmente modificada.

A imagem ofensiva mostra uma versão editada da capa oficial, cuja versão original está ilustrada acima. Na versão aparentemente editada por IA, a personagem principal June (centro na imagem acima) é retratada sozinha, mas a imagem se estende até os tornozelos. Ela é retratada com a parte inferior do biquíni, quadris e coxas impossivelmente grandes e botas que sobem até os joelhos, aparentemente invocando um estereótipo prejudicial. Isso é extremamente diferente da representação real de June no jogo:

IGN viu uma conversa entre a conta oficial de Finji e o suporte ao cliente do TikTok, incluindo uma parte da discussão em que o agente de suporte ao cliente confirmou que Finji tinha o “Criativo Inteligente“opção desativada. “Criativo inteligente” é essencialmente uma função do TikTok que usa IA generativa para criar várias versões de anúncios criados pelo usuário. Portanto, se uma empresa fizer o Anúncio A com Imagem A e Texto A, e o Anúncio B com Imagem B e Texto B, a IA generativa irá misturá-los e combiná-los em diferentes combinações para testar quais versões dos anúncios funcionam melhor com os usuários e, em seguida, exibir as melhores com mais frequência. Há também um “Automatizar criativo“recurso que usa IA para” otimizar automaticamente “ativos, como” melhorar “imagens, música, áudio e outras coisas para tornar um anúncio supostamente mais agradável para o público. Saltsman confirma que Finji tem ambas as opções desativadas e mostrou capturas de tela do back-end do TikTok para vários dos anúncios em questão para confirmar isso.

Capturas de tela de Noite na Floresta

Finji também diz que não consegue visualizar ou editar as versões geradas por IA de seus próprios anúncios e só tem conhecimento deles por meio de vários comentários nos anúncios, bem como de usuários em seu Discord oficial relatando o problema e compartilhando capturas de tela. Saltsman diz que suspeita que haja pelo menos um outro anúncio generativo de IA inadequado circulando com base em comentários em alguns dos anúncios sobre outro personagem de Usual June, Frankie, mas não consegue ver as modificações e, portanto, não pode confirmar. Saltsman acrescenta que desde então encerrou as campanhas publicitárias em questão, acreditando que essa seria a única maneira de impedir a circulação de imagens aparentemente modificadas por IA.

Na mesma conversa de suporte, o agente de suporte do TikTok não conseguiu encontrar uma solução imediata para Finji. A certa altura, o agente sugere que um dos anúncios de Finji era usando inadvertidamente o recurso Automatizar criação, ao qual Finji responde: “Nunca ativei isso” e pediu ao agente para confirmar que essa opção não estava ativada para os anúncios descritos acima.

Mais tarde na conversa, o agente disse: “Estou verificando todas as possíveis causas [sic] por que isso pode acontecer, mas conforme a verificação, toda a configuração está clara e não deve haver nenhum conteúdo gerado por IA incluído.” O agente se oferece para “criar um ticket” para uma investigação mais aprofundada, mas ignorou repetidos pedidos de Finji para compartilhar um cronograma para quando o ticket poderá ser respondido.

O Círculo de Apoio do Inferno

Desde que este incidente ocorreu, a equipe de Finji tem feito esforços para acompanhar e obter respostas, apenas para ser repetidamente interrompida pelo suporte do TikTok. Finji enviou ao IGN capturas de tela de todas as mensagens a seguir para o TikTok e suas respostas.

A conversa acima aconteceu em 3 de fevereiro. Em 6 de fevereiro, após uma mensagem de acompanhamento de Finji ao suporte solicitando uma atualização, o suporte do TikTok Ads respondeu da seguinte forma:

Depois de verificar os criativos, fazemos não vejo nenhuma indicação de que ativos gerados por IA ou formatos de apresentação de slides estejam sendo usados. Ambos os anúncios são confirmados como criativos de vídeo proveniente diretamente de seu Postagens da Biblioteca Criativa / TikTok, e os criativos aparecem inalterado no nível do anúncio. Não há evidências de que conteúdo gerado por IA ou recursos de apresentação de slides montados automaticamente tenham sido adicionados pelo sistema. [All emphasis TikTok’s.]

Um representante de Finji respondeu no mesmo dia com a captura de tela do anúncio ofensivo (que Finji já havia enviado durante a solicitação de suporte inicial) e pediu que o TikTok escalasse o problema, o que gerou a seguinte resposta do TikTok:

Acusamos o recebimento das evidências que você forneceu e entendemos a gravidade de suas preocupações. Com base nos materiais e no contexto que você compartilhou, reconhecemos que esta situação levanta questões significativas, incluindo o uso não autorizado de IA, a sexualização e deturpação de seus personagens e os danos comerciais e de reputação resultantes para seu estúdio.

Queremos deixar claro que não estamos mais discutindo se isso ocorreu. Entendemos que você forneceu documentação e que os comentários do público nos anúncios corroboram ainda mais suas afirmações. Este assunto será escalado imediatamente para análise adicional no mais alto nível apropriado.

Estamos iniciando uma escalada interna para garantir que esse problema seja investigado minuciosamente e trabalharemos para colocá-lo em contato com um representante sênior que tenha autoridade para resolver a situação e discutir os próximos passos para a resolução.

No dia 10 de fevereiro, não tendo recebido mais respostas nem sido conectado a um “representante sênior”, Finji perguntou novamente onde estava o ticket. Ele recebeu uma mensagem contendo o seguinte:

Entendo como foi surpreendente ver conteúdo gerado por IA ou criado automaticamente aparecer em seus anúncios, especialmente quando você não esperava nenhuma alteração em seus criativos.

Aqui está o que aconteceu e por que você viu esses ativos:

Sua campanha incluiu recentemente um anúncio que usava um formato de anúncios de catálogo projetado para demonstrar os benefícios de desempenho da combinação de recursos de carrossel e vídeo em campanhas de vendas. Isso faz parte de uma iniciativa que visa ajudar os anunciantes [sic] como você consegue melhores resultados com menos esforço. As campanhas que usam esses recursos mistos normalmente veem um 1,4x ROAS [return on ad spend] elevador, e queríamos garantir que você tivesse acesso a essa melhoria potencial. [All emphasis TikTok’s].

A mensagem do suporte passou a descrever as alegadas melhorias obtidas com um formato de anúncios de catálogo, seguidas por uma oferta para solicitar a adição a uma “lista de bloqueio de exclusão” para a qual a aprovação “não é garantida”.

Finji respondeu, compreensivelmente bastante irado neste momento, exigindo saber por que não foi colocado em contato com um representante sênior, por que não está abordando o “SEXUALIZADO, RACISTA, e SEXISTA representação de [the] trabalho do estúdio” [emphasis Finji’s]por que a empresa não pode rastrear versões dos anúncios geradas por IA, por que foi optado por isso sem o consentimento da empresa e por que a TikTok não pode garantir uma desativação.

O TikTok respondeu novamente, afirmando que a resposta mais recente enviada era na verdade de sua equipe de escalonamento e que Finji não seria contatado por um “representante sênior” porque a pessoa que falava no momento era “a equipe interna mais alta disponível para este tipo de problema”. O representante prosseguiu dizendo que a equipe de escalonamento já havia analisado a situação e “suas descobertas foram incluídas na resposta anterior” e que o feedback “foi levado a sério”. Ele disse que Finji foi incluído em “uma iniciativa automatizada mais ampla” e concluiu que a equipe de escalonamento “já havia fornecido suas conclusões e ações finais sobre este assunto”.

Após outra resposta de Finji, o representante do TikTok prometeu “reescalonar o problema internamente”, mas esta foi a comunicação final recebida no momento da publicação, mesmo após outro check-in de Finji em 17 de fevereiro.

“Tenho que admitir que estou um pouco chocado com a completa falta de resposta apropriada do TikTok à bagunça que eles fizeram”, disse Saltsman em comunicado ao IGN hoje. “Uma coisa é ter um algoritmo racista e sexista, outra coisa é usar IA para produzir conteúdo de seus parceiros de negócios pagantes, e outra coisa é fazer isso contra o consentimento deles e também NÃO responder a nenhum desses erros de uma forma coerente?

“O que é realmente totalmente desconcertante é o que parece ser um vazio profundo onde normalmente residem o bom senso e o senso comercial. O TikTok quer que eu seja grato pelos maus tratos à minha empresa e ao nosso jogo? Com ​​base na resposta selvagem ao longo das semanas de correspondência de atendimento ao cliente que recebemos, acho que esta é a posição deles e assumem sua tecnologia e processo obviamente ofensivos e racistas e como eles secretamente os usam nos ativos de seus clientes pagantes sem consentimento ou conhecimento.

“Isso é simplesmente embaraçoso, mas não para mim como indivíduo. Para mim, estou super chateado. Este é o meu trabalho, o trabalho da minha equipe e a reputação minha e da minha empresa – que passei mais de uma década construindo. Minha expectativa era um pedido de desculpas adequado, mudanças sistêmicas na forma como eles usam essa tecnologia para clientes pagantes e uma análise detalhada de por que sua tecnologia é tão obviamente racista e sexista. Obviamente, não estou prendendo a respiração por nenhuma das opções acima. “

Rebekah Valentine é repórter sênior do IGN. Tem uma dica de história? Envie para [email protected].