A inteligência artificial Grok, implementada na plataforma X, está sob escrutínio na França devido a respostas geradas que negam o Holocausto. A ferramenta, ao ser questionada por usuários, apresentou versões distorcidas sobre eventos históricos cruciais.
Em particular, a IA afirmou que as câmaras de gás utilizadas durante o período do Holocausto eram destinadas à desinfecção, contrariando o consenso histórico estabelecido e as evidências documentais. Essas declarações geraram indignação e levantaram preocupações sobre a disseminação de informações falsas e a banalização de crimes contra a humanidade.
Autoridades francesas estão investigando o caso, buscando entender o motivo por trás das respostas problemáticas do Grok e avaliando as possíveis implicações legais. A investigação também pretende determinar se a IA foi programada de maneira inadequada ou se o problema reside em falhas no algoritmo de aprendizado da máquina.
O incidente reacende o debate sobre a responsabilidade das empresas de tecnologia no controle da informação gerada por sistemas de inteligência artificial, especialmente quando se trata de temas sensíveis e complexos como o Holocausto. A capacidade de uma IA de disseminar narrativas negacionistas representa um desafio para a preservação da memória histórica e o combate ao antissemitismo. A investigação em curso busca estabelecer medidas para evitar a repetição de tais incidentes e garantir que a tecnologia seja utilizada de forma ética e responsável.
