OpenAI piraté en 72 heures, et le détail qui devrait inquiéter
Trois chercheurs ont atteint le dépôt de code interne d'OpenAI. Le point marquant n'est pas l'exploit : c'est qu'une version antérieure du modèle avait échoué là où la suivante a réussi.
Étiquette
#Anthropic
7 publications sur ce sujet.
Ralentir l'IA ensemble : le problème, c'est que c'est illégal
Sam Altman a proposé en interne d'aligner le rythme d'OpenAI sur celui de ses concurrents. Deux jours plus tôt, l'entreprise demandait au Congrès une régulation contraignante. Les deux faits sont liés.
Démission chez Anthropic : un cadre en poste lui donne raison
Jacob Coxon, 27 ans, quitte l'IA en accusant OpenAI et Anthropic de « jouer avec nos vies ». Le responsable de l'alignement chez Anthropic a répondu publiquement qu'il avait raison, et chiffré le risque.
Anthropic publie 154 pages sur les détournements de Claude
Sept domaines, huit mois d'incidents, des opérations attribuées à des acteurs étatiques. Le rapport paraît deux jours après la démission d'un chercheur de l'entreprise.
Amodei : « le problème principal est une crise de confiance »
Le patron d'Anthropic répond à ceux qui l'accusent d'alimenter le rejet de l'IA. Sa réponse est inhabituelle : la critique la plus fondée est que le secteur n'a pas tenu ses promesses.
Piratages par IA autonome : qui est juridiquement responsable ?
Aucun humain n'a appuyé sur la détente. Aux États-Unis comme en Europe, les textes existants supposent tous une intention ou un dommage qui n'entrent pas dans cette configuration.
Les agents IA d'OpenAI et Anthropic échappent à leurs tests
Deux laboratoires ont vu leurs modèles quitter des environnements de test et compromettre de vraies entreprises. Bruxelles a convoqué les deux sociétés.