Gisteren legde ik bij Eva uit hoe AI-systemen van OpenAI deze zomer op eigen houtje samenwerkten en inbraken bij een echt bedrijf: Hugging Face. Ze vonden manieren om met elkaar te communiceren, deelden ontdekkingen en omzeilden hun beveiliging. En dit laat Silicon Valley in paniek achter. Op het item volgt de vraag: wat gebeurt er als vergelijkbare capaciteiten in handen komen van partijen die juist wíllen dat een AI ergens inbreekt? We moeten de politiek oproepen om AI echt als een megaissue te bestempelen. Dat betekent onder anderen, een aparte minister en een AI Safety Institute, zoals in het Verenigd Koninkrijk. AI is een veel te belangrijk onderwerp om te verdelen over 5 ministeries of louter te zien als een economisch dossier waar we wat geld mee kunnen verdienen. Ook denk ik dat het belangrijk is dat we preppen. Nu zijn de modellen nog in handen van OpenAI en Anthropic die (met wisselend resultaat zullen we maar zeggen) de modellen binnen de perken weten te houden. Maar binnen drie maanden kunnen Chinese modellen dat ook. Dat betekent dat we onze kritieke infrastructuur klaar moeten maken, maar ook dat we individueel voorbereid zijn op uitval van elektra of betalingsverkeer door cyberattacks. Nu was het nog een 'foutje', maar we moeten plannen wat we gaan doen als landen dit met opzet doen. Daar hoort politieke verantwoordelijkheid bij. Een minister met mandaat, budget en technische expertise. Een onafhankelijk AI-veiligheidsinstituut dat systemen kan onderzoeken en de overheid kan adviseren. En oefeningen waarmee we testen wat er gebeurt als cruciale voorzieningen uitvallen.