Het Amerikaanse AI-bedrijf Anthropic — bekend van de chatbot Claude — mag een nieuwe, gespecialiseerde AI-tool toch beschikbaar stellen aan een aantal Amerikaanse overheidsinstanties. Dat meldt de NOS. Het gaat om een variant, Mythos genaamd, van een krachtig model dat Anthropic Fable noemt.
Een model dat beveiligingslekken vindt
Fable is geen gewone chatbot, maar een gespecialiseerd model dat is gebouwd om beveiligingslekken in software op te sporen. Dat is precies waar de kracht én het gevaar in schuilt: dezelfde technologie die helpt om kwetsbaarheden te dichten, kan in verkeerde handen ook worden gebruikt om ze uit te buiten.
Om die reden greep de Amerikaanse overheid eerder in. Ze verbood Anthropic het model buiten de Verenigde Staten en aan niet-Amerikanen aan te bieden, uit vrees dat het tegen de overheid zelf zou kunnen worden ingezet. Voor Anthropic, dat de nationaliteit van zijn gebruikers niet zomaar kan controleren, was dat aanleiding om het model breed ontoegankelijk te maken.
Beperkte heropening
Nu is er dus een tussenoplossing. Bepaalde overheidsinstanties krijgen toegang tot de variant Mythos, zodat zij hun eigen software op kwetsbaarheden kunnen laten controleren. De toegang is daarmee beperkt tot een geselecteerde groep, in plaats van het brede publiek.
Anthropic laat weten te blijven samenwerken met de Amerikaanse overheid om het model uiteindelijk weer voor iedereen toegankelijk te maken.
Spanning tussen techsector en overheid
De kwestie legt een groeiende spanning bloot tussen de snel oprukkende AI-sector en overheden die worstelen met de vraag wie de controle houdt over de krachtigste modellen. Geavanceerde AI die zowel verdedigend als offensief op het gebied van cyberveiligheid kan worden ingezet, plaatst bedrijven en staten voor lastige afwegingen tussen innovatie, commerciële belangen en nationale veiligheid.
Voor Anthropic — dat zich juist profileert met nadruk op veilige en verantwoorde AI — is het balanceren tussen die belangen een terugkerend thema. De beperkte heropening van Mythos laat zien dat overheid en bedrijf voorlopig naar een werkbare middenweg zoeken, zonder dat het onderliggende meningsverschil over zeggenschap is opgelost.
