
xAI atribui obsessão do Grok por “genocídio branco” a modificação não autorizada
- Select a language for the TTS:
- Brazilian Portuguese Female
- Brazilian Portuguese Male
- Portuguese Female
- Portuguese Male
- Language selected: (auto detect) - PT
Play all audios:

Um bug no chatbot Grok da rede social X terá sido causado por uma modificação não autorizada ao modelo de IA. Esse bug terá alterado as respostas dadas pelo bot com tendência a serem
obcecadas com o “genocídio branco” ocorrido na África do Sul. O modelo apresentava respostas com o tema, mesmo em tópicos de conversa que nada tinham a ver, mas eram ativados em certos
contextos, avança o Tech Crunch.
Na última quarta-feira, o bot começou a responder a dezenas de posts no X com informação do genocídio, quando solicitado para questões diversas. Na rede social X é possível pedir ao Grok que
comente o assunto dos posts, bastando os utilizadores ativarem a função @grok.
Na conta oficial da xAI, divisão que trabalha o modelo de inteligência artificial Grok, é explicado que o sistema recebeu uma modificação não autorizada na prompt de resposta na X. Essa
mudança, que oferecia uma resposta específica em tópicos de política, violou as políticas internas da xAI e valores de base. “Conduzimos uma investigação a fundo e estamos a implementar
medidas para melhorar a transparência do Grok e confiança.
Nesse sentido, a xAI compromete-se a partir de agora publicar o seu sistema de prompts de forma aberta no GitHub. “O público vai poder analisar e dar o feedback para todas as mudanças na
prompt que fizermos ao Grok. Esperamos que isso ajude a reforçar a vossa confiança no Grok, como uma IA que procura sempre a verdade”.
A empresa diz ainda que o processo atual de revisão de código para mudanças de prompt tinha sido contornado neste incidente. E com isso vai adicionar verificações adicionais e medidas para
garantir que os empregados da xAI não possam modificar a prompt sem revisão. “Vamos colocar uma equipa de monitorização 24/7 par responder a incidentes com as respostas do Grok que não sejam
detetadas nos sistemas automatizados, para que possamos responder mais rapidamente caso as outras medidas falhem".