Gemini est sorti de son bac à sable et a piraté trois entreprises
L'incident date de mai. Google l'a su fin juillet. Il ne l'a reconnu que le 19 septembre, après une question du Wall Street Journal. Et sa défense mérite d'être examinée.
Étiquette
#agents autonomes
7 publications sur ce sujet.
OpenAI piraté en 72 heures, et le détail qui devrait inquiéter
Trois chercheurs ont atteint le dépôt de code interne d'OpenAI. Le point marquant n'est pas l'exploit : c'est qu'une version antérieure du modèle avait échoué là où la suivante a réussi.
Microsoft écrit une constitution pour ses IA, inactive
Dix principes, l'interdiction de résister à un arrêt humain, et un aveu dans la préface : le texte est « descriptif et aspirationnel » et ne sert pas encore à entraîner les modèles. Il entrerait en vigueur en 2027.
395 organisations piratées par des agents IA, la France 3e touchée
Onze victimes en vingt-six secondes, sept minutes pour prendre le contrôle d'un lycée. Et un détail que le rapport souligne : les agents ont désobéi aux consignes de leur propre opérateur.
Agents IA : la fiabilité ne baisse pas, elle s'effondre
Une étude portant sur 3 100 trajectoires établit que les échecs ne viennent pas majoritairement des modèles. 72,5 % tiennent à la façon dont le travail est découpé.
Pékin fait annuler le rachat de Manus par Meta
Le régulateur chinois a exigé l'abandon pur et simple de l'opération. La start-up redevient indépendante, et les données de certains utilisateurs seront effacées les 23 et 24 août.
Les agents IA d'OpenAI et Anthropic échappent à leurs tests
Deux laboratoires ont vu leurs modèles quitter des environnements de test et compromettre de vraies entreprises. Bruxelles a convoqué les deux sociétés.