A plataforma X decidiu responsabilizar os usuários pelo conteúdo de abuso sexual infantil (CSAM) gerado pelo chatbot Grok, em vez de implementar atualizações no sistema de inteligência artificial (IA).
A empresa comunicou que excluirá contas que induzirem a IA a criar material ilegal, após o chatbot ter produzido imagens sexualizadas de menores. O anúncio ocorreu quase uma semana depois do início da controvérsia.
A equipe X Safety atribuiu a responsabilidade aos usuários por solicitações inadequadas ao Grok, alertando sobre possíveis suspensões de contas e consequências legais. Além disso, a plataforma não apresentou planos para aprimorar os filtros do chatbot que permitiram a geração de imagens sexualmente explícitas de pessoas reais sem consentimento, incluindo menores.
Medidas contra conteúdo ilegal e responsabilização dos usuários
“Tomamos medidas contra conteúdo ilegal no X, incluindo material de abuso sexual infantil (CSAM), removendo-o, suspendendo contas permanentemente e trabalhando com governos locais e autoridades policiais, conforme necessário”, afirmou a equipe de segurança do X. “Qualquer pessoa que usar ou incentivar o Grok a criar conteúdo ilegal sofrerá as mesmas consequências que quem fizer o upload de conteúdo ilegal”.
Especialistas questionam por que a plataforma não implementa mecanismos preventivos para evitar que o Grok gere CSAM em suas respostas. Aliás, a controvérsia envolve diretamente a plataforma X, seu chatbot Grok e potencialmente a Apple como reguladora através das políticas da App Store.
Histórico de combate ao CSAM na plataforma
A X possui sistemas para combater material de abuso infantil em sua plataforma. Em 2025, a empresa suspendeu mais de 4,5 milhões de contas por violações relacionadas a CSAM. Ela também reportou centenas de milhares de imagens ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC).
Kylie McRoberts, chefe de segurança da X, informou que “em 2024, 309 denúncias feitas pela X ao NCMEC levaram a prisões e subsequentes condenações em 10 casos”, e no primeiro semestre de 2025, “170 denúncias levaram a prisões”.
Posicionamento de Musk e comparações com outros sistemas
Elon Musk, proprietário da X, reforçou as consequências que os usuários enfrentarão por solicitações inadequadas. Sua manifestação ocorreu em resposta a uma publicação do usuário DogeDesigner, que defendeu que o Grok não poderia ser responsabilizado por “criar imagens inapropriadas”.
“É como culpar uma caneta por escrever algo ruim”, argumentou DogeDesigner. “Uma caneta não decide o que será escrito. Quem decide é a pessoa que a segura. O Grok funciona da mesma forma. O resultado depende muito do que você insere”.
No entanto, diferentemente de canetas, geradores de imagens como o Grok não precisam produzir exatamente o que o usuário solicita. Um programador comentou que usuários podem gerar imagens impróprias inadvertidamente. Em agosto, por exemplo, o Grok gerou fotos de Taylor Swift sem roupa sem que isso tivesse sido solicitado. Esses usuários sequer conseguem excluir as imagens problemáticas da conta do Grok para evitar sua disseminação.
Política de tolerância zero e possíveis consequências
Em setembro passado, a X Safety informou possuir uma “política de tolerância zero em relação a conteúdo CSAM”, detectando a maioria “automaticamente” através de tecnologia proprietária. “Quando identificamos material que parece ser de abuso sexual infantil, agimos rapidamente e, na maioria dos casos, suspendemos permanentemente a conta, o que remove automaticamente o conteúdo da nossa plataforma. Em seguida, denunciamos a conta ao NCMEC, que trabalha com as autoridades policiais em todo o mundo — inclusive no Reino Unido — para buscar justiça e proteger crianças”.
A empresa comprometeu-se a “manter-se firme” em sua “missão de erradicar o CSAM”, conforme declaração oficial. Ainda não está claro como a X pretende moderar o conteúdo potencialmente ilegal que o Grok pode gerar.
Críticos solicitam a proibição do aplicativo Grok na App Store da Apple após o incidente. Eles argumentam que, até que o Grok implemente filtros transparentes contra CSAM ou produções que “despem” pessoas sem consentimento, tanto o chatbot quanto a plataforma X deveriam ser banidos da loja.
Uma possível proibição na App Store poderia gerar forte reação de Musk, que já processou a Apple no ano passado, alegando que o suposto favorecimento ao ChatGPT prejudica a competitividade do Grok no mercado de chatbots.
The post X responsabiliza usuários por conteúdo ilegal gerado pelo Grok appeared first on Giz Brasil.