IT

De nood aan een bijsluiter voor AI

24.11.2020
door Fokus Online

Artificiële intelligentie is vandaag enorm populair. De grote mogelijkheden ervan zijn duidelijk, maar tegelijk zien we steeds vaker de gevaren opduiken. Dat vraagt geïnformeerde burgers en bedrijven die de technologie snappen. Iets dat misschien ontbreekt in België.

Mieke De Ketelaere.
Program Director AI bij imec

Zijn we goed genoeg geïnformeerd over AI?

“Absoluut niet. Ik krijg nog regelmatig vragen zoals: ‘Ben je niet bang dat AI de wereld zal overnemen?’ Er bestaat een diepe angst en onkennis over AI. Het is hoog tijd dat er transparantie komt. We moeten uitleggen wat AI echt is. Het brede publiek wil nieuwe technologie wel gebruiken, maar wil daarvoor natuurlijk niet de werking van elke technologie in detail snappen. Net zoals je niet alle technische details moet kennen om een microgolfoven te gebruiken, moet je niet weten hoe een specifiek algoritme werkt als je geen programmeur bent. Maar een basiskennis is wel nodig om onnodige angst te vermijden. Iedereen zou, naast de voordelen, ook de beperkingen en gevaren moeten inzien alvorens de technologie te omarmen.”

Hoe zit het met onze bedrijven? Waar loopt het meestal fout?

“Als bedrijven AI-gedreven innovaties in goede banen willen leiden, dan moeten hun leiders zich laten omringen door multidisciplinaire teams. Ze mogen trouwens niet zomaar met de datascientists samenzitten. Bedrijven moeten alle afdelingen betrekken, zeker wanneer ze AI op mensen inzetten. Wanneer dit soort systemen bepaalt wie bijvoorbeeld een lening krijgt, dan moet je heel wat partijen vermengen, zodat je mogelijke ethische gevaren in kaart brengt. We mogen AI niet langer in het hoekje van data en technologie steken. Daar gaat het natuurlijk wel om in eerste instantie, maar het draait ook rond mensen en processen. En de vertaalslag tussen al die elementen is cruciaal.”

Hoe implementeren we AI beter in onze maatschappij en economie?

“We leerden niets uit het verleden. Er zijn heel wat uitvindingen waar het eerst moest foutlopen voordat we de zaken corrigeerden. Een typisch voorbeeld daarvan is medicijnen. Om misbruik te voorkomen, geven we daar vandaag een bijsluiter bij met informatie over het gebruik ervan en de mogelijke bijwerkingen. Zo’n bijsluiter zouden we nu bij AI-oplossingen moeten leveren. Of neem de auto. Eerst kwamen de autostrades en daarna pas veiligheidsmaatregelen, zoals het rijbewijs en veiligheidsgordels. Wat in de tussenperiode voor veel ongelukken zorgde. Vandaag missen we eveneens dit soort maatregelen voor AI. We moeten nu de omliggende factoren bouwen, zodat AI veilig kan landen.”

Nathalie Smuha.
Researcher law & ethics AI bij de KU Leuven

Zijn we goed genoeg geïnformeerd over AI?

“Voor veel mensen is AI nog onduidelijk. Ze beseffen niet dat het al in heel wat diensten zit. Dat het AI-technologie is wanneer ze hun telefoon ontgrendelen met gezichtsherkenning of Spotify een liedje aanbeveelt. Over het algemeen is dat niet zo problematisch. Maar wanneer mensen interageren met pakweg een chatbot en denken dat ze met een mens praten, of wanneer er risico’s verbonden zijn op het gebied van grondrechten zoals privacy of discriminatie, dán heb je wel een probleem. Mensen moeten een beter beeld krijgen van wat AI wel en niet kan, want soms halen ze hun visie uit sciencefiction. Als je de technologie niet snapt, dan kun je niet de juiste ethische vragen stellen.”

Hoe zit het met onze bedrijven? Waar loopt het meestal fout?

“Bedrijven maken steeds vaker gebruik van AI-toepassingen, maar er is nog steeds werk aan de winkel om te verduidelijken welke meerwaarde AI voor hen kan betekenen. Er bestaan al wel initiatieven waarbij experts hierbij helpen, vooral voor kmo’s. Maar tegelijk is AI niet de oplossing voor alles. We moeten vertrekken vanuit de uitdagingen van het bedrijf, en dan pas kijken of AI daarmee helpt. Want misschien zijn er andere technologieën die beter geschikt zijn voor de situatie. AI is geen wondermiddel en het lost niet elk probleem op. Ook brengt het soms ethische uitdagingen met zich mee, die op voorhand aangepakt moeten worden.”

Hoe implementeren we AI beter in onze maatschappij en economie?

“Er is nood aan meer sensibilisering en kritische bevraging. We moeten een publiek debat voeren over de rol van AI in de samenleving, zeker als toepassingen privacy kunnen schenden of discriminatie verankeren. Organisaties die AI gebruiken, in de overheid of de privé, moeten duidelijker communiceren. Want een slim algoritme kan al bepalen of je een lening krijgt, welk nieuws je ziet op sociale media of dat je cv wordt geselecteerd voor een job. Als er een beslissing valt via een AI-systeem, moet het duidelijk zijn op basis van welke criteria dat gebeurt, welke data er wordt gebruikt en hoe de beslissing eventueel kan worden betwist. De finale beslissing moet zowel uitlegbaar als gerechtvaardigd zijn.”

Joeri Ruyssinck.
CEO ML2Grow

Zijn we goed genoeg geïnformeerd over AI?

“Wij praten heel regelmatig met bedrijven over AI, en we zien dat hun kennisniveau erg divers is. Voor sommigen staat AI gelijk aan de zelfrijdende auto, voor anderen is het echt sciencefiction. Mensen staan er vaak niet bij stil dat heel wat van onze hedendaagse technologie evengoed gebruikmaakt van AI. Ze denken bij AI automatisch aan grote robotiseringsprojecten en dat de technologie dus niet voor hen is weggelegd. Om die reden loopt het in het praktijk vaak nog vast. Dankzij talrijke initiatieven om AI te promoten, stijgt gelukkig het bewustzijn dat er met AI al kleinschalige automatisering en quick-wins mogelijk zijn.”

Hoe zit het met onze bedrijven? Waar loopt het meestal fout?

“De grote problemen die we vandaag tegenkomen gaan niet noodzakelijk over technologie of data. De grote uitdaging is de verwerking van AI in de processen van het bedrijf. De invloed van AI is het grootst wanneer het de kernprocessen automatiseert. Maar bedrijven raken niet graag aan hun corebusiness, want dat betekent dat ze zich dan anders moeten organiseren. Dat staat de adoptie van AI in de weg. De technologie staat dus met andere woorden klaar, maar heel wat bedrijven weten niet hoe ze het precies kunnen inzetten.”

Hoe implementeren we AI beter in onze maatschappij en economie?

“Wanneer bedrijven de sprong maken naar AI, dan pakken ze dat meestal voorzichtig aan, merken we. Ze beginnen met een test of proof-of-concept en proeven zo van de technologie. Voor sommige bedrijven is dat geen slechte keuze, maar we zien ook dat die voorzichtige aanpak soms de energie doet wegstromen. Er zit geen doel achter en het bedrijf kan moeilijk inschatten hoe deze technologie op bredere schaal zal bijdragen aan hun werk. Het blijft daarom vaak bij een proof-of-concept. Bij ML2Grow proberen we bedrijven te overtuigen om ruimer te denken dan die kleinschalige testreflex. We weten dat deze technologie werkt, nu moeten we gewoon durven.”

Vorig artikel
Volgend artikel