That's it. OpenAI lance son "GPT Store" qui structure les usages métiers de ChatGPT. Ce sont des entreprises -privées, hors UE- qui éditent les GPTs donc prudence #shadowAI
La shadowAI
La shadowAI est une conséquence de la rapidité d'appropriation de ChatGPT (et autres) dans les usages métiers de ChatGPT. Avec l'arrivée du GPT Store, l'utilisation de GPTs (Generative Pre-trained Transformers) édités par des entreprises privées, situées en dehors de l'Union européenne soulève des préoccupations en matière de confidentialité des données et de dépendance vis-à-vis de ces entreprises.
Le fonctionnement de la shadowAI repose sur l'utilisation de modèles de langage pré-entraînés, tels que ChatGPT, qui sont gérés par des entreprises privées voire des particuliers. Ces modèles "métiers" sont entraînés sur des ensembles de données inconnues.
Quels sont les critères utilisés pour la sélection des données d'entraînement et comment sont gérées les possibles biais et erreurs ?
ShadowAI et GPTs
Les GPTs offre plusieurs avantages aux entreprises. Ils permettent d'accéder à des modèles puissants et pré-entraînés, sans avoir à investir dans un développement et un entraînement. Cela permet aux entreprises de gagner du temps et de l'argent, tout en bénéficiant de capacités de traitement du langage naturel avancées. « Spécialisés » par des entreprises ou particuliers sur des usages spécifiques, ils embarquent des logiques métiers pour offrir une palette d’outils prêt à l’emploi aux collaborateurs.
Les défis posés par la shadowAI
Malgré ses avantages, le GPT Store pose également des défis. Tout d'abord, l'utilisation de GPTs soulève des préoccupations en matière de confidentialité des données. Les entreprises doivent être conscientes que les données transférées par les utilisateurs internes peuvent être accessibles à ces tiers. Des mesures sont nécessaires pour protéger les informations sensibles et au-delà du questionnement systématique sur le résultat, la question même de la propriété intellectuelle des résultats est posée.
De plus, la dépendance vis-à-vis de ces GPTS et derrière de OpenAI, dans des usages métiers pouvant être stratégique peut être critique en cas de dysfonctionnement, de panne ou de cessation d'activité de ces tiers. Les DSI à qui on demande des plans de continuité sont bien désemparées face à ces usages.
Enfin, le pré-entraînement effectué sur des données ou un prompt engineering inconnus peut poser des problèmes en termes de biais et d'erreurs.
Les GPT sont tentants pour les collaborateurs, ils peuvent être surtout très utiles : pourquoi ne pas les faire soi-même !
Les possibilités pour que la shadowAI revienne dans le droit chemin
Les plates formes (OpenAI, AzureAI, AWS bedrock…) permettent aux entreprises (DSI, métiers, management) de mettre en place des solutions conformes aux politiques d’éthique, de sécurité, de confidentialité, …
Organiser des ateliers de découverte du fonctionnement simple de ces outils est clé pour sensibiliser les collaborateurs, dénouer des tensions autour de l’IA, découvrir des usages potentiels insoupçonnés auprès des utilisateurs.
L’usage de méthodes et d’outils d’intelligence collective garanti un résultat rapide et efficace en permettant aux équipes de se mobiliser et s’aligner sur les sujets IA Générative.
