ERC’ers tamelijk positief over AI
Kom met ethische richtsnoeren voor het gebruik van kunstmatige intelligente (AI) in onderzoek. Dat zeggen ERC-begunstigden in een enquête van de ERC over de toekomst van AI in de wetenschap. Vooral voor thema’s als privacy en gegevensbescherming, algoritmische eerlijkheid en preventie van misbruik, zijn zulke ethische kaders wenselijk. ERC’ers zijn mild positief over AI in relatie tot het wetenschappelijk proces. Zo gelooft 88% van de respondenten dat AI de ontwikkelingen in hun werkveld zal versnellen. Men ziet vooral voordelen rondom het ontwikkelen van prototypes, delen van kennis, de nauwkeurigheid van wetenschap en het bevorderen van oplossingen voor maatschappelijke uitdagingen. Generatieve AI-tools, zoals ChatGPT of Bard, zien ERC’ers als een positieve toevoeging op hun werk. Zij zien met name bij het uitvoeren arbeidsintensieve taken waarde voor AI, denk aan literatuuronderzoek, samenstellen van informatie (van presentaties tot papers) en het toegankelijk maken van documenten in vreemde talen.
Kritische noten
Scepsis van de ERC-begunstigden richt zich vooral op de zogenaamde automatisering van het wetenschappelijk proces; het idee dat AI in staat is om zelfstandig onderzoek uit te voeren. Meer dan driekwart (76%) van de respondenten acht dit onwaarschijnlijk. Meer dan de helft (54%) acht de kans klein dat AI in 2030 in staat is om wetenschappelijke bijdrages te schrijven en evalueren of beurzen aan te vragen. Onder de respondenten leeft vooral de opvatting dat AI zal dienen als een “assistent” of “ondersteuner” voor menselijke onderzoekers, in plaats van te opereren als een autonome actor.
Context
De ERC ondernam deze enquête in het kader van het komende wetenschappelijk advies (begin 2024) over de verantwoorde invoering van AI in de wetenschap. Onlangs verklaarde de ERC dat ze onderzoekers verantwoordelijk houdt voor ongeoorloofde toepassing van AI in het subsidieaanvraagproces. Bovendien behoort onderzoek naar AI sinds kort tot een van de ethische voorwaarden bij onderzoeksaanvragen in bijvoorbeeld Horizon en Digital Europe. Aan de enquête namen 1.034 ERC begunstigden deel van in totaal 1.046 ERC projecten. Veruit de meeste van hen komen uit het veld van de betawetenschappen (50%), gevolgd door de geestes- (29%) en gammawetenschappen (18%). Drie procent ondernam interdisciplinair onderzoek. Negen procent was gelieerd aan een Nederlandse instelling. AI is een van de hoofdthema’s binnen het digitaliseringsbeleid van de EU. Begin volgend jaar wordt er een akkoord verwacht over de langverwachte AI Act.
