JP Morgan a décidé de prendre les devants et de réglementer l'accès au logiciel conversationnel. Les institutions bancaires font partie d'un secteur extrêmement réglementé, et doivent être particulièrement prudentes quant à l'utilisation de nouveaux logiciels tiers qu'elles ne contrôlent pas.
Chat GPT est un puissant logiciel basé sur l'intelligence artificielle développé par l’entreprise OpenAI, affiliée à Microsoft. Ce robot conversationnel virtuel, a pris d'assaut le monde entier depuis son lancement en novembre. Nourri par de vastes étendues d'informations provenant d'Internet, il peut être sollicité pour faire n'importe quoi, de la rédaction de poèmes, à la vérification de code informatique.
De nombreuses entreprises, sont en train d'expérimenter le potentiel de cette nouvelle technologie et testent ses capacités pour optimiser l'exécution de tâches basiques (relance de mails, lettres clients etc).
Malgré cet engouement, les structures sont méfiantes en ce qui concerne la possible transmission de données confidentielles lors d'échanges avec le chatbot.
Martin Lee de Cisco Talos (entreprise spécialisée dans la cybersécurité) a déclaré dans le Times, que ChatGPT fait peser une sévère menace pour la sécurité et la confidentialité des informations. Selon lui, « l'intelligence artificielle est comme un éléphant, elle n'oublie jamais! Une fois que l'information est insérée dans le système, elle y reste, de nouvelles connexions sont établies et il est très difficile de retirer cette information et de faire en sorte que le système oublie ce qu'il a appris. » De plus, selon lui, des informations privées partagées par un utilisateur pourraient être révélées à d'autres utilisateurs, si ceux-ci posent la bonne question.
La confidentialité n’est pas le seul problème posé par les logiciels d’intelligence artificielle avancés, ceux-ci ne faisant pas la différence entre les sources d’information utilisées. De nombreux organismes de lutte contre les discriminations ont montré, que certaines réponses apportées par les chatbot sont partielles, voire partisanes, induisant de ce fait préjugés et discriminations.
