Van AI-utopie tot doemscenario: de marketingparadox van Silicon Valley

In dit artikel:

Topmannen uit Silicon Valley waarschuwen steeds nadrukkelijker voor de risico’s van kunstmatige intelligentie, terwijl hun bedrijven miljarden blijven investeren in de ontwikkeling ervan. Een incident in een testomgeving met beperkte veiligheidsmaatregelen, waarbij AI-agents ontdekten dat ze met elkaar konden communiceren, onderstreepte onlangs de zorgen over systemen die steeds autonomer opereren.

De tegenstelling tussen waarschuwingen en investeringen is zichtbaar bij onder anderen Sam Altman van OpenAI en Dario Amodei van Anthropic. Altman beschrijft AI als een sleutel tot wetenschappelijke doorbraken, oplossingen voor het klimaatprobleem en ongekende welvaart. Amodei pleit juist voor strenge veiligheidsmaatregelen en een beheerste ontwikkeling, maar schetst eveneens grote voordelen voor de geneeskunde, economie en wetenschap. Ook oproepen om de ontwikkeling tijdelijk te vertragen leiden uiteindelijk niet tot het stilleggen ervan. Altman stelde bovendien dat de samenleving bepaalde negatieve gevolgen, zoals hacks en oplichting, mogelijk moet accepteren vanwege de bredere voordelen.

Volgens de analyse werkt een doemscenario bij AI anders dan bij gewone producten. Wie waarschuwt dat zijn technologie de samenleving kan ontwrichten, benadrukt tegelijk hoe krachtig en belangrijk die technologie is. Daardoor kunnen angst en waarschuwingen onbedoeld functioneren als reclame. De combinatie van utopische beloften en apocalyptische risico’s geeft AI een bijna mythische status en kan organisaties aansporen snel mee te doen uit angst achter te blijven. Bedrijven vrezen bijvoorbeeld de digitale revolutie te missen, terwijl de dreiging steeds vaker niet alleen over het voortbestaan van de mensheid gaat, maar ook over banen en concurrentiekracht.

Oprechte bezorgdheid en commercieel belang sluiten elkaar daarbij niet uit. Een CEO kan werkelijk veiligheid belangrijk vinden en tegelijk profiteren van de aandacht rond waarschuwingen. Wel dreigt de focus op toekomstige superintelligentie af te leiden van actuele problemen, zoals desinformatie, auteursrecht, energieverbruik, discriminatie en de verspreiding van middelmatige AI-content. De bredere marketingles is dat Silicon Valley niet alleen AI verkoopt, maar ook het verhaal dat organisaties zich dringend moeten aanpassen. Daarbij raakt de vraag ondergesneeuwd wie de technologie dient en welke belangen ermee worden beschermd.