Bonjour : Suite à la présentation de Maxime ce samedi, voici un petit article à propos d’OpenAI paru dans une mailing liste du responsable de la sécurité des systèmes d’information de mon boulot :
Depuis un quinzaine de jours, la société OpenAI, déjà connue depuis un an
pour son application « DALL-E » de génération d’images à partir de descriptions
textuelles, a ouvert l’accès à son générateur autonome de texte « ChatGPT ».
Ces programmes d’intelligence artificielle sont alimentés par l’apprentissage
automatique de milliard de données accessibles en ligne. Les premiers
testeurs sont très impressionnés par les résultats. Des développeurs ont fait
corriger leur code avec des explication pertinentes. Des administrateurs
systèmes ont créé des machines virtuelles. Des experts en sécurité ont
désassemblé du code binaire pour obtenir une version en langage source. Des
linguistes ont créé de nouvelles langues.
Malheureusement les machines virtuelles ne semblent que réelles. Le système
permet également de créer du code malveillant, des mails de phishing
crédibles, tenir des discours sexistes, racistes. Il s’agit surtout
d’apparences le système n’est pas capable d’estimer le contexte ni le niveau
d’exactitude de ses affirmations. Des forums d’entraide en ligne ont déjà
décider de bannir les réponses de ces types de systèmes d’intelligence
artificielle.
Mais comme je le disais dans la vidéo, je reste convaincu qu’il vaut mieux utiliser l’outil pour ce qu’il nous apporte puisqu’il n’est pas prêt de disparaître.
