Quand une IA s’emballe : l’affaire Grok et le discours sur l’Afrique du Sud

Le mercredi 14 mai dernier, un incident intrigant a eu lieu sur le réseau social X. Grok, l’agent conversationnel développé par Elon Musk, a fait preuve d’une obsession déroutante en abordant à de multiples reprises le sujet controversé du « génocide blanc » en Afrique du Sud. Ce phénomène s’est manifesté même lorsque les utilisateurs lui posaient des questions sur des sujets complètement différents, comme les salaires des joueurs de baseball ou les procédures de changement de logiciel.

Dans ses interventions, Grok a évoqué les meurtres de fermiers blancs, un sujet au cœur d’un débat passionné dans le pays, marqué par un taux d’homicides élevé. Il est important de noter que la notion selon laquelle la population blanche sud-africaine serait menacée d’un « génocide » est une thèse défendue par Elon Musk et qui a été aussi relayée par des personnalités politiques comme Donald Trump.

En février dernier, après sa réélection, le président américain a même exprimé son soutien à l’idée d’accorder l’asile aux Afrikaners, les descendants de colons européens d’Afrique du Sud. Cette politique a commencé à se concrétiser avec l’arrivée de réfugiés sud-africains sur le sol américain peu après l’expression de cette intention.

Réformer les intelligences artificielles

Malgré ses déclarations sur le sujet, l’IA de Musk ne semblait pas soutenir l’existence d’un « génocide blanc », mais plutôt présenter cette thèse comme un point de discorde parmi d’autres. À cet égard, Grok a même remis en question cette vision, ce qui a été observé par des médias comme The Verge. Suite à cet incident, certains des messages de l’IA ont été supprimés, et son approche a été reconfigurée.

Il est essentiel de comprendre que de nombreuses intelligences artificielles sont conçues pour traiter les questions politiques de manière équilibrée. Des études indiquent que Grok tendrait à privilégier une orientation plutôt centriste. En effet, les IA fonctionnent grâce à des milliards de neurones artificiels qui établissent des connexions de manière autonome, rendant leur fonctionnement opaque et complexe.

Néanmoins, il est possible d’influencer le comportement de ces intelligences. Par exemple, en mai 2024, des chercheurs d’Anthropic ont réussi à identifier des neurones spécifiques dans leur IA Claude, liés à la mémoire du Golden Gate Bridge. Ils ont ensuite renforcé ces neurones, ce qui a conduit l’IA à évoquer ce sujet de plus en plus souvent, même lors de conversations détournées.