Wat zijn de gevaren en risico’s van AI?

AI-systemen zijn zelflerend. Dit betekent dat ze zichzelf blijven verbeteren door te leren van data. Artificial intelligence biedt veel kansen en voordelen. Toch zien we dat AI ook gevaren en risico’s met zich meebrengt.

Gebrek aan transparantie

AI-systemen kunnen niet altijd uitleggen waarom ze bepaalde resultaten geven. En dat is juist belangrijk om de resultaten te kunnen interpreteren. Bijvoorbeeld bij maatschappelijke of medische beslissingen.

Data is niet objectief

AI-systemen worden getraind met data. Maar als de data die hiervoor wordt gebruikt niet klopt met de werkelijke situatie, dan kan dit leiden tot bevooroordeelde beslissingen. Stel dat je een AI-model traint om afbeeldingen van honden en katten te herkennen en de data wordt alleen getraind met populaire hondenrassen zoals Golden Retrievers en populaire kattenrassen als Perzische katten, dan kan het systeem deze katten beter herkennen dan andere bijvoorbeeld een Sphynx (naaktkat). Zo werkt het systeem minder goed.

Wie is er schuldig?

Wie is er aansprakelijk als er schade is veroorzaakt door een apparaat of dienst die door AI wordt aangedreven? Dat is een ingewikkelde vraag. Als bijvoorbeeld een zelfrijdende auto een ongeluk krijgt, wie is er dan verantwoordelijk? Moet de schade door de eigenaar, de autofabrikant of de programmeur betaald worden?

Privacy en gegevensbescherming

AI kan gevolgen hebben voor je privacy en gegevensbescherming. Artificial intelligence kan bijvoorbeeld gebruikt worden bij gezichtsherkenning. Daarnaast kan AI de informatie die iemand deelt gebruiken voor nieuwe data. Dit kan leiden tot problemen.

Stel je voor dat je een AI-aangedreven gezondheidsapp gebruikt om je fitnessactiviteiten bij te houden. De app analyseert je trainingspatronen en slaappatroon om suggesties te doen voor een gezondere levensstijl. Dit is positief. Maar de verzamelde gegevens kunnen ook gebruikt worden zonder jouw medeweten. Verzekeringsmaatschappijen kunnen bijvoorbeeld toegang proberen te krijgen tot deze gegevens en op basis van je levensstijl je premie verhogen.

De grote invloed van technologiebedrijven

Het gevaar bestaat dat AI in handen komt van een relatief kleine groep van acht commerciële bedrijven. Want bijvoorbeeld Facebook, Microsoft, Google en Apple hebben het geld, de data en de capaciteiten om kunstmatige intelligentie kwalitatief enorm te laten groeien. Het gevaar is dus dat heel krachtige technologie in handen komt van een relatief kleine groep commerciële bedrijven.