AI bedreigt wiskunde, waarschuwen onderzoekers

In dit artikel:

Een internationale groep wiskundigen waarschuwt voor de razendsnelle opkomst van AI in hun vakgebied en wil voorkomen dat onderzoek afhankelijk wordt van gesloten commerciële systemen. De oproep staat in de Leiden Declaration on Artificial Intelligence and Mathematics, die voortkomt uit een workshop vorig jaar aan de Universiteit Leiden en is opgesteld onder leiding van TU/e-wiskundige Jim Portegies samen met zestien internationale onderzoekers.

De verklaring noemt vijf grote gevaren: onbetrouwbare AI-uitkomsten, ontbrekende bronvermelding, afhankelijkheid van technologie van grote techbedrijven, overdreven claims en het verlies van wetenschappelijke zelfstandigheid. De opstellers vragen zich af wie aansprakelijk is als een AI-gegenereerd bewijs fout blijkt, en hoe te controleren of zo’n bewijs echt nieuw is of slechts een slimme bewerking van eerder werk.

Onder de ondertekenaars zitten onder meer oud-onderwijsminister Robbert Dijkgraaf en topwiskundige Terence Tao. De initiatiefnemers willen AI niet verbieden, maar pleiten voor duidelijke regels: transparantie over AI-gebruik, goede bronvermelding en altijd een menselijke eindverantwoordelijke. Ook universiteiten, tijdschriften en subsidieverstrekkers moeten volgens hen extra waarborgen inbouwen, terwijl de politiek strenger moet toezien op de AI-sector en publieke alternatieven moet steunen.

De International Mathematical Union schaart zich achter de verklaring en benadrukt dat wiskundig onderzoek door mensen moet worden geleid, met transparantie en zorgvuldigheid als uitgangspunt.