Xai atribui obsessão do grok por “genocídio branco” a modificação não autorizada

Xai atribui obsessão do grok por “genocídio branco” a modificação não autorizada


Play all audios:


Um bug no chatbot Grok da rede social X terá sido causado por uma modificação não autorizada ao modelo de IA. Esse bug terá alterado as respostas dadas pelo bot com tendência a serem


obcecadas com o “genocídio branco” ocorrido na África do Sul. O MODELO APRESENTAVA RESPOSTAS COM O TEMA, MESMO EM TÓPICOS DE CONVERSA QUE NADA TINHAM A VER, MAS ERAM ATIVADOS EM CERTOS


CONTEXTOS, AVANÇA O TECH CRUNCH. Na ÚLTIMA QUARTA-FEIRA, O BOT COMEÇOU A RESPONDER A DEZENAS DE POSTS NO X COM INFORMAÇÃO DO GENOCÍDIO, QUANDO SOLICITADO PARA QUESTÕES DIVERSAS. Na rede


social X é possível pedir ao Grok que comente o assunto dos posts, bastando os utilizadores ativarem a função @grok. Na conta oficial da xAI, divisão que trabalha o modelo de inteligência


artificial Grok, é explicado que o sistema recebeu uma modificação não autorizada na prompt de resposta na X. ESSA MUDANÇA, QUE OFERECIA UMA RESPOSTA ESPECÍFICA EM TÓPICOS DE POLÍTICA,


VIOLOU AS POLÍTICAS INTERNAS DA XAI E VALORES DE BASE. “CONDUZIMOS UMA INVESTIGAÇÃO A FUNDO E ESTAMOS A IMPLEMENTAR MEDIDAS PARA MELHORAR A TRANSPARÊNCIA DO GROK E CONFIANÇA. Nesse sentido,


a xAI COMPROMETE-SE A PARTIR DE AGORA PUBLICAR O SEU SISTEMA DE PROMPTS DE FORMA ABERTA NO GITHUB. “O PÚBLICO VAI PODER ANALISAR E DAR O FEEDBACK PARA TODAS AS MUDANÇAS NA PROMPT QUE


FIZERMOS AO GROK. Esperamos que isso ajude a reforçar a vossa confiança no Grok, como uma IA que procura sempre a verdade”. A empresa diz ainda que o processo atual de revisão de código para


mudanças de prompt tinha sido contornado neste incidente. E com isso vai adicionar verificações adicionais e medidas para garantir que os empregados da xAI não possam modificar a prompt sem


revisão. “VAMOS COLOCAR UMA EQUIPA DE MONITORIZAÇÃO 24/7 PAR RESPONDER A INCIDENTES COM AS RESPOSTAS DO GROK QUE NÃO SEJAM DETETADAS NOS SISTEMAS AUTOMATIZADOS, PARA QUE POSSAMOS RESPONDER


MAIS RAPIDAMENTE CASO AS OUTRAS MEDIDAS FALHEM".