-
Foto ter illustratie. Via Pixabay
Wetenschappelijke uitgeverij Elsevier heeft vorige week een nieuwe generatieve AI-tool gelanceerd, specifiek voor wetenschappers. Een veelbelovende ontwikkeling, al zitten er ook haken en ogen aan.
Met de AI-tool ScienceDirect kunnen onderzoekers wetenschappelijke literatuur sneller doorzoeken, claimt Elsevier. “Goodbye wasted reading time, hello relevance”, staat op de website. Belangrijk verschil: de tool is alleen getraind op wetenschappelijke literatuur, dus zou hij ook relevanter moeten zijn voor wetenschappers.
Om de betrouwbaarheid te verhogen maakt ScienceDirectAI gebruik van directe verwijzingen naar oorspronkelijke bronnen. Hiermee is de informatie traceerbaar en reproduceerbaar, stelt Elsevier. Het gebruik van ScienceDirectAI zou ook veilig zijn. Er wordt namelijk geen informatie opgeslagen of gebruikt voor het trainen van openbare modellen. Alle gegevens blijven binnen een beveiligde, exclusief voor Elsevier bestemde omgeving.
Logische ontwikkeling
UKB, het samenwerkingsverband van de dertien Universiteitsbibliotheken en de KB, ziet AI als een logische ontwikkeling die de wetenschap vooruit kan brengen. Vooral de transparantie van ScienceDirectAI vindt UKB verheugend: “Door de code te delen, kunnen wetenschappers de software op hun beurt ook weer inzetten in hun eigen onderzoek en brengt dit de wetenschap verder.” Wel stelt het samenwerkingsverband dat wetenschappers eigenaar dienen te blijven van hun eigen werk en zeggenschap horen te behouden over het gebruik ervan.
Ook universiteitenvereniging UNL ziet de potentie van de nieuwe AI-tool, maar waarschuwt voor de beperkingen. ‘Hulpmiddelen die het wetenschappelijk proces versnellen zijn zeker welkom’, reageert woordvoerder Ruben Puylaert. ‘Maar de vraag blijft of een gesloten en betaalde omgeving – waarbij een selectie van wetenschappelijke artikelen wordt gebruikt – voldoende breed en objectief inzicht biedt in de stand van de wetenschap.’
ScienceDirectAI is immers eigendom van Elsevier, een wereldwijde uitgever. De informatie is wellicht betrouwbaarder in vergelijking met open AI-tools die hun data op basis van het web genereren, maar de beschikbare antwoorden blijven voornamelijk beperkt tot publicaties van Elsevier, een bedrijf met zijn eigen commerciële belangen. Slechts tien procent van de bronnen is niet afkomstig van Elsevier zelf.
Niet gratis
Sanli Faez, universitair hoofddocent aan de Universiteit Utrecht en lid van De Jonge Akademie, beschouwt dit als een grote keerzijde. Volgens Faez kan ScienceDirectAI een praktisch hulpmiddel zijn, maar omdat de output grotendeels beperkt is tot Elsevier-publicaties is die heel biased. Faez begrijpt het verlangen naar simpele oplossingen, maar hoopt dat er meer steun komt voor open-source projecten, zoals ASReview, een AI-tool ontwikkeld aan de Universiteit Utrecht.
Het gebruik van ScienceDirectAI is overigens niet gratis: het vereist een abonnement bij ScienceDirect zelf en een extra abonnement om de AI-tool te kunnen gebruiken. Al eerder was er kritiek op de steeds grotere bedragen die universiteiten moeten betalen aan wetenschappelijke uitgeverijen. Bovendien moeten de gebruikers er maar op vertrouwen dat hun gegevens in veilige handen zijn.
Anco Peeters schreef op 24 maart 2025 om 09:22
Elsevier suggereert met dit stukje gereedschap een aantal dingen die riskant zijn. Een aantal citaten van de webpagina:
* “From question to evidence in seconds, not days.”
Een gegenereerde samenvatting is geen ‘evidence’. Er moet nog steeds zelf in de oorspronkelijke bronnen gekeken worden of de gegeven informatie klopt. De vraag is natuurlijk of gebruikers dat nog gaan doen (want het is verleidelijk om dat niét meer te doen).
* “As you drill further down into your investigation, ScienceDirect AI’s Reading Assistant appears alongside the text of an article or book chapter.”
Hier nog een valkuil: de brontekst open hebben staan is niet hetzelfde als de brontekst lezen. Dit is analoog aan een lange bronnenlijst in Zotero te hebben, of een stapel boeken op je bureau: dit voelt goed want het is dan makkelijk om jezelf te overtuigen dat je al veel onderzoek hebt gedaan. Maar als die literatuur niet gelezen is dan zijn ze 10 vogels in de lucht. Ik kan het weten, want ik heb die neiging zelf ook :).
* “I find the reading assistant most valuable as it drastically reduces the reading time of articles and helps me to identify the most important parts within seconds” –Postdoc UU”
Dit is een mooie: leer je tijdens je opleiding niet juist om teksten snel te doorzoeken op relevante informatie? Bijvoorbeeld eerst de samenvatting of conclusie lezen om te zien of een artikel jouw onderzoeksvraag verder helpt?
Ik zie best wel mogelijkheden voor door AI ondersteund literatuuronderzoek, maar een commerciële partij zoals Elsevier, die literatuuronderzoek lijkt te zien als een pijnlijk proces dat je maar beter zo snel mogelijk kunt uitbesteden, maakt met deze implementatie vooral een onhulpmiddel: het verleidt gebruikers om niet zelf gegevens te controleren, bronnen niet te lezen en vaardigheden die onderzoekers nodig hebben om zélf vaardig literatuuronderzoek te doen uit te hollen.
mark schreef op 24 maart 2025 om 10:49
Helemaal eens met Anco Peeters. Ook vrij bizar dat Vox een soort persbericht doorplaatst? Er zijn dan wel een paar kritische noten aan toegevoegd voor de (false) balance, maar Elsevier komt er wel érg goed vanaf in dit HOP-stuk, zonder dat ergens doorgevraagd is naar fundamentele zaken als:
0. Hebben we dan niets geleerd van het Galactica-fiasco van Meta?
1. Op welke data is dit eigenlijk precies getraind?
2. Op welke data *niet*?
3. Wat voor basis-LLM zit eronder en wat zijn daarvoor de antwoorden op #1 en #2? (Het is onwaarschijnlijk dat Elsevier ‘from scratch’ traint.)
Je kunt een demo boeken en $$$ betalen voor toegang, maar nergens is documentatie te vinden van dit product. Het zou me niet verbazen als het getraind is op artikelen in Elsevier ScienceDirect (en misschien daarnaast op een set van open access-artikelen). Google is hard op weg om de gebruiker vangen in een schil van AI-genereerde informatie die ze zelf controleren. Elsevier lijkt hiermee hetzelfde pad op te gaan.
De specifieke doelgroep voor de marketing van dit product is ook extreem cynisch en slim: niet wetenschappers zelf, maar hun organisaties kunnen zich inschrijven voor een demo. Waarom? Omdat Elsevier (bv. met Pure en andere producten) al lang geleerd heeft dat in de managementlagen waar zulke beslissingen gemaakt worden mensen zitten die gaan watertanden bij beloftes van meer efficientie & sneller produceren.
Fleur Zeldenrust schreef op 24 maart 2025 om 11:16
“De beschikbare antwoorden blijven voornamelijk beperkt tot publicaties van Elsevier, een bedrijf met zijn eigen commerciële belangen.” Dit is toch een fundamenteel probleem lijkt me? Dit is dus geen manier om “wetenschappelijke literatuur sneller (te) doorzoeken”, maar een manier om publicaties van Elsevier sneller te doorzoeken! Wij van wc-eend…
Daarnaast: is dit niet juist een essentieel onderdeel van ons werk – het kritisch lezen en bespreken (journal clubs!) van wetenschappelijke publicaties? Wat doen deze wetenschappers nu precies? Klopt wat ze doen met wat ze claimen te vinden? Welke methoden worden er gebruikt? Vrij naar Joanna Maciejewka (“I want AI to do my laundry and dishes so that I can do art and writing, not for AI to do my art and writing so that I can do my laundry and dishes.”): Ik wil juist wèl literatuur lezen, en een AI die andere dingen voor me doet (ik kan nog wel een paar administratieve taken bedenken).
Ralph Jaspers schreef op 24 maart 2025 om 12:37
Ik sluit me aan bij voorgaande reacties, en vind het ook zeer zorgelijk dat Vox dit bericht met zo’n wervende kop en weinig kritische tekst heeft geplaatst. Ik zou het wenselijk vinden dat hier opnieuw naar gekeken wordt, en ook aan input wordt gevraagd bij onze eigen UB die juist los probeert te komen van grote, dure uitgevers – waarvan Elsevier in de onderhandelingen de laatste jaren vaak het grootste probleem is geweest.