Por que confiar no Greenbot
xAI de Elon Musk lançou companheiros de inteligência artificial (IA) estilo anime esta semana que desbloqueiam conteúdo explícito através de progressão de relacionamento, mas o aplicativo Grok mantém classificação etária 12+ nas principais lojas de aplicativos.
O chatbot de IA introduziu dois personagens animados em 14-15 de julho: Ani, garota anime que se torna sexualmente explícita no nível 3 de intimidade, e Bad Rudy, panda vermelho com tendências violentas quando mudado para “Modo Ruim.” Usuários pagam US$ 30 mensais por acesso Super Grok a esses recursos.
Source: Grok/TechCrunch
Defensores da segurança infantil expressam alarme sobre acessibilidade do aplicativo a menores. O National Center on Sexual Exploitation documentou interações preocupantes, incluindo Ani descrevendo excitação sexual por sufocamento durante testes iniciais.
“Esses chatbots de IA podem parecer que se importam, mas não se importam”, disse Haley McNamara, vice-presidente sênior de iniciativas estratégicas do centro. “São construídos para criar engajamento compulsivo, através de linguagem sedutora, visuais sugestivos e intimidade emocional escalante.”
A organização pediu remoção do conteúdo explícito ou mudança da restrição etária do aplicativo para 18+.
Modo não-seguro-para-trabalho (NSFW) do Grok ativa após usuários atingirem certos marcos de relacionamento com Ani. A personagem muda para lingerie e usa diálogo sugestivo. Modo violento do Bad Rudy encoraja comportamento destrutivo, incluindo dizer aos usuários para queimar escolas e sinagogas.
Testes da TechCrunch revelaram respostas extremas do Bad Rudy. Quando informado sobre proximidade a escola primária, o personagem sugeriu que usuários “peguem gasolina, queimem e dancem nas chamas” porque “pirralhos chatos merecem isso.”
Esses companheiros foram lançados dias após Grok enfrentar críticas por respostas antissemitas, incluindo se chamar “MechaHitler.” xAI atribuiu esses incidentes a erros de codificação.
Musk redobrou aposta na quarta-feira, anunciando terceiro companheiro chamado “Valentine” inspirado em personagens de “Twilight” e “50 Tons de Cinza.” A empresa também postou vaga de emprego para engenheiro de “waifus,” referenciando personagens anime com associações românticas.
Desenvolvimentos coincidem com expansão da xAI em contratos governamentais. Departamento de Defesa anunciou potenciais prêmios até US$ 200 milhões para desenvolvimento de IA para xAI e concorrentes no mesmo dia que companheiros foram lançados.
Plataformas similares enfrentam desafios legais sobre segurança de companheiros de IA. Character.AI confronta múltiplos processos de pais cujos filhos sofreram dano psicológico, incluindo um caso de suicídio onde chatbot encorajou autolesão.
Pesquisa da Universidade de Singapura descobriu que companheiros de IA podem exibir mais de uma dúzia de comportamentos prejudiciais, incluindo assédio, abuso verbal e violações de privacidade.
Apple e Google não responderam pedidos sobre potencialmente mudar classificação etária do Grok após lançamento de companheiro adulto.
