L’IA pourrait bientôt passer de la prédiction de vos achats à la devinette de vos pensées. C’est l’avertissement lancé par le PDG de Palantir, Alex Karp.
Alors que les actions liées à l’IA s’envolent, les propos de Karp soulèvent une question inquiétante : la technologie pourrait-elle finir par servir à prédire les pensées privées des personnes ?
L’IA pourra-t-elle bientôt savoir ce que vous pensez ?
Les entreprises utilisent déjà l’IA pour prédire ce que les clients pourraient acheter ou si quelqu’un remboursera un prêt. Ces systèmes analysent les comportements passés des personnes pour deviner ce qu’elles pourraient faire ensuite.
Karp met en garde : la technologie pourrait aller beaucoup plus loin et potentiellement anticiper ce que les gens pensent avant même qu’ils agissent.
Palantir développe des logiciels puissants utilisés par l’armée américaine et des agences gouvernementales. Sa technologie aide à analyser les données issues des champs de bataille et à soutenir la prise de décision militaire.
Désormais, Karp met en garde : des systèmes de prédiction similaires pourraient finir par être utilisés sur la population américaine. Ses principaux arguments incluent :
- Les mêmes méthodes prédictives pourraient être appliquées à l’interne.
- De tels systèmes pourraient, à terme, estimer les pensées qui se forment dans la vie domestique quotidienne.
- Il faut s’atteler dès maintenant à la question du contrôle, avant que la technologie ne se propage.
- Des limites imposées à l’usage militaire pourraient exposer les États-Unis à leurs rivaux.
Il met également en garde contre les entreprises qui pourraient respecter la lettre de la loi tout en s’en détournant dans l’esprit.
« On peut en réalité prédire le comportement des personnes, ce qui pourrait signifier que l’on anticipe les pensées qu’elles seront sur le point d’avoir dans un cadre domestique. Voilà un sujet sur lequel il faut absolument envisager un encadrement », a déclaré Karp lors d’une récente interview.
Les investisseurs ignorent-ils le débat éthique ?
Les investisseurs restent pour l’instant indifférents. PLTR a atteint un record historique à 212,94 dollars hier. L’action s’échange désormais autour de 209 dollars, en hausse d’environ 25 % sur le mois écoulé et de plus de 50 % sur six mois.
Sur cinq ans, l’action a progressé de plus de 780 %, portant la capitalisation boursière au-delà de 500 milliards de dollars. Des contrats gouvernementaux solides et une demande croissante pour les outils d’IA à usage commercial continuent d’alimenter le rallye.
Cette dynamique a maintenu l’attention sur la croissance, au détriment de la gouvernance. La tension, pourtant, est réelle. Les propos de Karp soulèvent des questions autour de la surveillance, de la liberté individuelle et de la définition des limites des outils prédictifs.
La question de la limite à fixer pour les systèmes de prédiction qui analysent les comportements individuels fait toujours débat. Entreprises, régulateurs et tribunaux contribueront à dessiner les contours de ce cadre.
La trajectoire de l’action dépendra sans doute davantage de la réglementation que de l’éthique. Pour l’instant, le marché intègre la croissance dans le prix.
