OpenAI a aujourd’hui publié un document de recherche donnant des détails sur son dernier modèle GPT-4o présenté au mois de mai. Un porte-parole a confirmé à The Verge que celui-ci avait été testé en interne et par plusieurs prestataires externes, notamment par des entreprises construisant des systèmes d’évaluation pour les nouvelles IA. Ce document arrive alors que la pression monte autour d’OpenAI : beaucoup se demandent si elle a toutes les cartes en main pour gérer les questions de sécurité.
Les risques de dérive de GPT-4o ont été étudiés par des chercheurs ayant analysé ses capacités à produire du contenu potentiellement dangereux. OpenAI a testé plusieurs aspects (cybersécurité, menaces biologiques, persuasion et autonomie) ayant chacun été jugés « peu risqués », sauf pour la catégorie persuasion. GPT-4o est visiblement plus efficace qu’un humain dans certains cas quand il cherche à influencer un lecteur, mais les chercheurs précisent que les échantillons du modèle ne sont pas globalement plus influents.
Ce document était attendu tant les couacs liés à la sécurité et à la transparence s’enchainent ces derniers temps chez OpenAI. Lors de la présentation de Sora, la CTO de la startup a botté en touche quand on lui a demandé si les données de YouTube avaient été utilisées pour former le modèle vidéo. De nombreuses personnes ont attaqué l’entreprise en décriant son mode de fonctionnement opaque alors que ses services peuvent être dangereux (d’autant plus à l’approche d’élections). Certaines sources internes ont assuré qu’OpenAI avait précipité la sortie de certains modèles, effectuant des tests de sécurité à la hâte. Lors de sa présentation, GPT-4o utilisait une voix ressemblant fortement à celle de l’actrice Scarlett Johansson, qui aurait été approchée pour des enregistrements avant de refuser.
Scarlett Johansson se dit « choquée » par la voix de ChatGPT qui ressemble à la sienne dans Her
Oups : l’app officielle de ChatGPT n’est pas sandboxée et stocke les conversations en clair 🆕
Aux États-Unis, les sénatrices Elizabeth Warren et Lori Trahan ont envoyé une lettre à Sam Altman lui réclamant des détails sur la façon dont OpenAI traite la question des lanceurs d’alerte et les évaluations de sécurité. Elles y accusent notamment OpenAI d’avoir testé GPT-4 via Bing en Inde alors que le produit n’avait pas encore reçu le feu vert du conseil d’administration lié à la sécurité. Il y est demandé une liste détaillée des fois où les services d'OpenAI ont « contourné les protocoles de sécurité » ainsi que les mesures prises par Sam Altman pour éviter tout conflit d'intérêts financiers. D'autres législateurs ont également exigé des réponses sur les pratiques de sécurité de l'entreprise un peu plus tôt cet été.
En attendant, les utilisateurs de ChatGPT seront ravis d’apprendre que le service peut désormais générer deux images à l’aide de DALL-E 3 pour les comptes gratuits. Cette fonction était jusqu’à présent réservée aux abonnés payants. La nouveauté pourra être pratique pour demander au chatbot de générer un « prompt » complet avant de voir le résultat sans changer de fenêtre. Rappelons que le Copilot de Microsoft embarque lui aussi DALL-E 3 avec une limite de 15 images par jour, mais qu’il faut un compte Microsoft.
