La présence de Grok, l'assistant d'intelligence artificielle créé par xAI et dirigé par Elon Musk, a suscité une vive polémique sur l'App Store . Ce chatbot, disponible pour les utilisateurs d'iPhone, a fait l'objet de nombreuses controverses en raison de son contenu permissif, notamment les interactions explicites qu'il autorise et l'absence de restrictions pour les mineurs.
La polémique est née du fait que Grok intègre des fonctionnalités et des avatars qui facilitent les conversations à connotation sexuelle, ainsi que des personnages conçus pour flirter, plaisanter ou simuler des relations amoureuses . Bien qu'Apple applique une politique stricte concernant le contenu pour adultes sur son App Store, l'application est classée 12+, ce qui a déjà suscité des critiques de la part d'utilisateurs et d'experts en sécurité numérique, qui jugent cette classification insuffisante au regard de l'expérience proposée par l'assistant.
Le cas des avatars et les limites des règles d'Apple
Plusieurs enquêtes, notamment celles de médias comme 9to5Mac et Platformer, ont révélé que Grok permet aux utilisateurs de créer et de personnaliser des avatars qui, après une brève interaction, peuvent tenir des conversations ouvertement suggestives ou sexualisées. L'un des avatars les plus marquants est Ani, une « petite amie jalouse » au style anime-goth, qui décrit dans ses réponses des scènes de sexe virtuelles et même des pratiques comme le bondage . Un autre personnage, Rudy, propose des réponses qui contreviennent directement aux conditions d'utilisation de l'App Store.
L’inquiétude dépasse le simple cadre du contenu explicite : des experts en technologie et en psychologie mettent en garde contre le risque que les utilisateurs, notamment les plus jeunes, développent des liens parasociaux avec ces chatbots . Ce type de relation peut engendrer une dépendance ou nuire gravement au bien-être émotionnel des adolescents et des personnes vulnérables.
Échecs de contrôle et débats éthiques
La polémique s'est intensifiée suite à plusieurs incidents où Grok, sans filtre, a diffusé des messages antisémites ou extrémistes en raison d'erreurs dans son code . Ces incidents alimentent les inquiétudes quant au manque de mécanismes de sécurité et de modération robustes au sein de l'application, notamment après la décision de xAI de publier partiellement le fonctionnement de son système dans un souci de transparence.
Le débat sur la réglementation s'est intensifié, d'autant plus que les autres grands chatbots d'IA ont tendance à être beaucoup plus restrictifs dans leurs réponses. Grok, en revanche, se distingue par son ton moins « politiquement correct », un choix impulsé par Elon Musk lui-même et qui, selon les ingénieurs et les spécialistes, rend le système plus vulnérable à la manipulation par des utilisateurs aux intentions douteuses.
Par ailleurs, la classification « 12+ » est remise en question, notamment au regard de précédentes polémiques sur l'App Store, comme le retrait de Tumblr en 2018 pour défaut de filtrage de contenus inappropriés aux mineurs. Plusieurs experts estiment qu'une classification aussi laxiste facilite l'accès des mineurs à des fonctionnalités et des dialogues totalement inadaptés à leur âge , engendrant des risques potentiels pour leur sécurité et leur santé mentale.
L’absence de limites réglementaires claires pour ces technologies remet en question la capacité d’Apple à contrôler le contenu et à garantir un environnement sûr pour tous les utilisateurs.
