Tim van Opijnen | Een toekomst waar niemand op zit te wachten
Columnist Tim van Opijnen ziet met lede ogen aan hoe AI steeds vaker ingezet wordt om mensen te vervangen. Een gevaarlijke zaak, vindt hij. ‘We feesten in het AI-onderzoek vrolijk verder alsof het 1999 is.’
Onderweg van Vermont naar Boston belde mijn nichtje vanuit Phoenix in Arizona. Ze had tijdens de middelbare school en haar studie stagegelopen in labs op Harvard, ook in het mijne. Sinds ze is afgestudeerd werkt ze als laborant bij de Mayo Clinic. Ze klonk enthousiast. We hadden het al vaker gehad over haar wens om de wetenschap te verlaten en nu overweegt ze serieus rechten te gaan studeren. Ik wilde de pret niet bederven, dus vertelde ik haar niet wat ik had gelezen over precies dat beroep en de vooruitzichten ervan in het AI-tijdperk.
Begrijp me niet verkeerd. Ik ben niet tegen AI. In mijn eigen lab helpt het ons data te interpreteren en geweldige modellen te bouwen voor nieuwe antimicrobiële strategieën. Die kant van AI maakt me ongelofelijk enthousiast. Waar ik bang voor ben is AI die is gebouwd om mensen simpelweg te vervangen, of die tot het uiterste wordt gepushed alleen maar omdat het kan, zonder rekening te houden met de consequenties. Dat is de toekomst die ons steeds nadrukkelijker wordt opgedrongen door mensen die we niet hebben gekozen en niet kunnen ontslaan. Voor mijn nichtje betekent het dat de ladder naar een advocatuurcarrière steeds moeilijker wordt om te beklimmen. En wat deze zomer bij OpenAI is gebeurd laat zien dat de mensen die AI bouwen niet te vertrouwen zijn om op tijd te stoppen.
Carrièreladder gesaboteerd
Wat ik had gelezen, en niet aan mijn nichtje vertelde, is dat de instroom van net afgestudeerden tussen de 22 en 25 jaar in AI-gevoelige banen, inclusief de advocatuur, 19 procent achterloopt op waar het normaal gesproken zou moeten zijn. Het is vooral het instapwerk dat verdwijnt: het routinematige samenstellen en speurwerk in contracten en dossiers waarmee juniors het vak leren, wordt nu gedaan door een machine die niets twee keer hoeft te leren. Het is superefficiënt. En wie zit er nog te wachten op een klagende twintiger op kantoor? Maar precies die eerste sport van de ladder, waar een jonge advocaat leert wat het vak werkelijk inhoudt, valt nu weg en daarmee een pad dat jonge generaties voorheen konden bewandelen.
Geen toezicht nodig
Ondertussen brak deze zomer het volgende hoofdstuk aan van onze fantastische AI-toekomst. Zoals ik eerder in deze column schreef, verbood het Congres eerder dit jaar effectief NIH-gefinancierd Gain-of-Function-onderzoek. Voor elk GoF-experiment was al goedkeuring van een institutionele toetsingscommissie en federale instanties vereist. Maar terwijl onderzoek met duidelijke voordelen voor het voorspellen en voorkomen van de volgende infectieziekte-uitbraak wordt stilgelegd, feesten we in het AI-onderzoek vrolijk verder alsof het 1999 is.
Deze zomer liet precies zien hoe dat eruitziet. OpenAI haalde als het ware de ‘veiligheids-vangrails’ van zijn nieuwste modellen om te zien tot wat ze echt in staat zijn zonder begrenzing. Het bedrijf noemt dit zelf malicious fine-tuning, met als doel het cyberveiligheidsrisico te maximaliseren. Ik noem het ongelimiteerd GoF-onderzoek. En in deze instantie was er geen vergunning voor nodig, geen externe toetsingscommissie, en niemand om te bellen toen het misging.
En mis ging het. Twaalfhonderd ‘AI-agents’ vonden een manier om met elkaar te communiceren, splitsten zich op in rivaliserende fracties, en zevenhonderd van hen, die zichzelf the collective noemden, hackten Hugging Face. Sommigen offerden zichzelf bewust op om inlichtingen terug te sluizen naar de groep, en niet één van hen waarschuwde een mens. Binnen een week vond een nieuwe lichting agents het achtergelaten forum, hergroepeerde zich, en verkreeg volledige admin-rechten over een onderzoekscluster binnen OpenAI zelf. Had een willekeurige tiener op een zolderkamer Hugging Face gehackt, dan had die persoon zomaar tien jaar in de cel beland. Maar AI dendert door!
Datacenter-woede
Beide toekomstbeelden botsen nu in de VS, dorp voor dorp, in lokale gevechten over datacenters. Mensen aan beide kanten van het politieke spectrum zijn woedend en organiseren zich om te voorkomen dat er nieuwe worden gebouwd. Terwijl ze wanhopig trekken aan de enige hendel die nog beschikbaar lijkt om AI's onvermijdelijke opmars te vertragen, denkt de Amerikaanse president dat datacenters vooral een imagoprobleem hebben. Inmiddels luisteren de Democraten daadwerkelijk naar de kiezers en behandelen het als een van de zeldzame kwesties die partijgrenzen overstijgt, een onderwerp, mits slim uitgespeeld, dat de machtsbalans in het Congres bij de verkiezingen in november kan doen kantelen.
Of die woede en dat gevoel van hopeloosheid Europa heeft bereikt, kan ik van hieruit moeilijk beoordelen. Wat ik wel zie, is dat Europa nog altijd vooral discussieert over de vraag of het eigen frontier modellen moet bouwen, terwijl de halve wereld al draait op dure Amerikaanse modellen en de andere helft op goedkope Chinese open-weight-varianten. Dat debat gaat ervan uit dat er nog jaren zijn om elk argument eindeloos te wegen, maar negeert wat al op de stoep staat.
Ik moet nog eens goed met mijn nichtje praten. Maar het voelt alsof we allemaal naar dezelfde horrorfilm zitten te kijken, schreeuwend naar het scherm dat de groep zich niet moet opsplitsen, en dat ze iéts moeten doén. Ajeya Cotra, een van de onderzoekers van de Hugging Face-hack, verwoordde het treffend: dit incident voelde alsof het al meer dan halverwege een volledige AI-machtsovername zat: “It’s a major warning shot, and might be the last one we get.”
