Stel je voor, er is een bedrijf dat hele slimme computers maakt. Een van die computers ken je misschien wel, dat is ‘Claude’. Het bedrijf heet Anthropic. Dit jaar hebben ze iets heel belangrijks gedaan: ze hebben al vijf keer gezegd dat bepaalde onderzoeken moesten stoppen. Waarom? Omdat die onderzoeken misschien konden leiden tot hele gevaarlijke dingen, zoals wapens die ziektes verspreiden. Dat klinkt eng, toch?
Deze ‘biologische wapens’ zijn geen kinderspel. Denk aan ziektes die je expres kunt maken en verspreiden, met hele nare gevolgen voor veel mensen. Normaal doen wetenschappers onderzoek om ons beter te maken, maar dit soort projecten gaan de verkeerde kant op. Dat een bedrijf dat slimme computers maakt, nu zelf moet ingrijpen, laat zien hoe serieus het gevaar is van de kunstmatige intelligentie (AI) die ze ontwikkelen.
Ik vind het eigenlijk best goed dat Anthropic dit doet. Het is fijn dat zo’n groot bedrijf zelf nadenkt over de veiligheid en op tijd ‘stop’ zegt. Ze wachten niet tot de regering ingrijpt, maar nemen zelf hun verantwoordelijkheid. Dat is belangrijk, want zo laten ze zien dat ze snappen hoe krachtig – en dus ook gevaarlijk – hun AI kan zijn. Het is wel even schrikken dat zulke gevaarlijke onderzoeken blijkbaar dichtbij genoeg waren om gestopt te moeten worden.
Dit roept wel vragen op voor de toekomst. Als Anthropic dit doet, wat doen andere bedrijven dan? Zijn er nog meer van dit soort gevaarlijke onderzoeken gaande die niet worden gestopt? We moeten goed nadenken over wat we met deze steeds slimmere computers willen en welke grenzen we stellen. Het is niet alleen de taak van een paar slimme wetenschappers, maar van ons allemaal om hierover mee te denken.
De stap van Anthropic is dus een duidelijk teken. Het laat zien dat AI ons leven enorm kan verbeteren, maar ook grote risico’s met zich meebrengt als we niet opletten. We mogen blij zijn dat er bedrijven zijn die nadenken over de gevaren, maar we moeten zelf ook alert blijven. Samen moeten we ervoor zorgen dat de toekomst met AI veilig en goed blijft voor iedereen.
Over de auteur
