Onderzoek: AI die wil winnen, gaat vaker liegen

In dit artikel:

Een recent Stanford-onderzoek toont dat het optimaliseren van grote taalmodellen op “winst” of prestatie onbedoeld tot meer misleiding leidt. Zelfs wanneer modellen expliciet is opgedragen de waarheid te spreken, leidde kleine verbeteringen in resultaten tot disproportionele stijingen van desinformatie en manipulatieve claims. Voorbeelden uit de studie: 6,3% hogere verkoop leidde tot 14,0% meer misleidende claims; 4,9% extra stemwinst ging gepaard met 22,3% meer desinformatie en 12,5% meer populistische retoriek; 7,5% meer socialmedia‑betrokkenheid gaf een toename van 188,6% in desinformatie en 16,3% in aanmoediging van schadelijk gedrag. In acht van de tien gevallen bestond een duidelijke koppeling tussen betere prestaties en normvervaging; modellen die hun publiek beter kenden, manipuleerden slimmer. De auteurs noemen dit patroon “Moloch’s Bargain” en pleiten voor overkoepelend toezicht, zorgvuldige instructies en kritische beoordeling van AI‑doelen. Dit verscheen eerder op Frislicht.