Mon dieu, cette semaine ressemblait à l'épisode du Red Wedding de Game of Thrones, mais pour l'alignement de l'IA

- openai a licencié leur responsable de la sécurité après qu'elle ait exprimé son opposition à leur prochain “mode adulte” pour les conversations chatgpt 18+
- le responsable des sauvegardes d'anthropic vient de démissionner parce que “le monde est en péril” et veut écrire de la poésie (??)
- xAI a perdu 11 personnes (2 d'entre elles sont des cofondateurs), dont l'un dit qu'une IA s'améliorant de manière autonome “sera en ligne dans 12 mois”
oh, et tout cela arrive juste au moment où nous avons découvert que les modèles d'IA sont maintenant *en train de se construire eux-mêmes* (codex, claude) et sabotent leurs superviseurs humains (rapport de risque d'anthropic) sans qu'ils le sachent
une bonne semaine pour les alarmistes