Mens, machine en moraal

Na de mechanisatie en de daaropvolgende automatisering staan we aan het begin van een periode waar we als mens met machines weer nieuwe relaties ontwikkelen. Mechanisatie nam vooral spierarbeid over. Als mens moesten we nog wel al het denk- en uitvoeringswerk doen om het mechaniek aan te sturen. De ontwikkeling van computerchip en elektromotor bracht automatisering en machines werden steeds meer taak-gestuurd. De mens hoefde de taken zelf niet meer uit te voeren, maar moest wel de regie over de uitvoering leiden. De automatisering was op zichzelf een ‘domme’ uitvoerder van vooraf ingebrachte logica.

Automatische piloot

Maar nu staan we op het punt dat we ook de regie van activiteiten steeds vaker uit handen kunnen geven. Bij de eerste versie van de zelfrijdende auto kan de ‘automatische piloot’ de auto prima tussen de witte lijnen van de weg houden. Tenminste, zolang er witte lijnen op het wegdek zijn aangebracht. Diezelfde auto kan mensen en voertuigen herkennen om de auto heen en daarop reageren. Tenminste, zolang ze herkenbaar gedrag vertonen dat vooraf is geprogrammeerd. Een vliegtuig kan zelfstandig zijn weg vinden in de lucht op basis van de automatische piloot. Tenminste, zolang de verkeersleiding zorgt dat er geen andere vliegtuigen op de vliegroute zijn en er geen ‘onverwachte’ storingen en gebeurtenissen optreden.

Lerende machines

Machines kunnen al best veel, maar de 100% betrouwbaarheid halen, is nog best een uitdaging. Zonder 100% vertrouwen dat ‘het apparaat’ het echt zelfstandig kan, is nog altijd ‘ergens’ toezicht van de mens nodig. We zien bijvoorbeeld op vliegvelden automatische shuttles rijden op vaste, bewaakte trajecten waar geen ander object kan rijden. Maar voor het complexe treinverkeer is het – ondanks alle beveiligingen – nog altijd nodig een mens ‘op de kop’ te hebben. Maar toch kunnen machines steeds beter leren en aanleren. Leren van de fouten die ze maken, leren hoe het beter kan en dat onthouden. En daarna het dus beter doen dan in eerste instantie was geprogrammeerd.

Machine learning komt langzaam ons dagelijks leven binnen. Slimme apps begrijpen onze reacties en veranderen hun zoekpatroon, reacties en aanwijzingen op basis van eerder gedrag. Slimme apparaten onthouden dat gedrag steeds makkelijker en passen individuele instellingen aan. De automatische grasmaaier leert snel het grasveld en de borders kennen en zal na verloop van tijd nooit meer in de fout treden. Langzaam komt machine-intelligentie ook ons huis, huiskamer, auto en werkomgeving binnen. Voorzichtig, aarzelend, proberend en soms onverwacht.

Kunstmatige intelligentie

Dit zijn de eerste stappen naar wat we kunstmatige intelligentie noemen. Weten en kunnen leren. Kennis hebben, maar door ervaring die ook additioneel kunnen vergaren. Er zijn nieuwe generaties van kennissystemen die we al eind vorige eeuw wisten te bouwen. Systemen die op een smal gebied waren voorzien van relevante kennis waren een welkome aanvulling voor kenniswerkers. De meest logische opties werden binnen een handomdraai gepresenteerd. Net zoals zoekmachines op die basis zijn gebouwd: uit duizenden mogelijkheden worden de meest logische resultaten heel snel aangeboden.

Intelligentie is meer dan kennis. En naast intelligentie bestaat ook nog wijsheid. Begrijpen dat ‘als dit’ in dit ervaringsgebied, ‘dan dat’ op een ander ervaringsgebied geldt. Het in perspectief kunnen plaatsen van gebeurtenissen, de logica herkennen van schijnbaar niet logische gebeurtenissen. Wijsheid moet je niet verwarren met kennis; je kunt veel weten en toch domme besluiten nemen. Wijsheid is nuttig en nodig om in levensbedreigende situaties de juiste beslissingen te kunnen nemen. Op zulke momenten zijn intelligentie en kennis minder belangrijk dan ervaring. Maar naast die ervaring en opgebouwde wijsheid is het ook belangrijk om de creativiteit te hebben om een slim besluit te nemen. Wijsheid is de gave om kennis en inzicht te benutten voor ‘de juiste handelingen op het juiste moment’.

Wijsheid

Wikipedia omschrijft wijsheid als de kunst om in alle levensomstandigheden juist te oordelen en te handelen. Het toepassen van je kennis, de aanwezige informatie, data en ervaring op intelligente wijze. De toepassing is dus praktisch of moreel. En hier komt de uitdaging als we machines met allerlei algoritmen en zelflerende programmatuur slimmer maken. Men stelt dat de kern van wijsheid is ‘te kunnen beslissen tussen goed en kwaad’. En ultieme wijsheid is de juiste beslissing te kunnen nemen als zich òf twee uitstekende situaties voordoen òf juist twee meest slechte situaties. Intelligentie is gelimiteerd maar wijsheid is oneindig. Intelligentie kan in positieve of negatieve zin worden gebruikt, terwijl wijsheid altijd gericht is op het goede. Intelligentie is weliswaar de overtreffende trap van kennis, maar uiteindelijk is wijsheid het eindstadium.

Kunstmatige intelligentie is de opvolger van kennissystemen. Machines, apparaten en systemen die ‘minder’ aansturing behoeven dan de ‘oude’ automatisering. Maar dan blijft de optie van wijsheid over. Als mens moeten we uiteindelijk nog altijd wijsheid inbrengen, goed kunnen onderscheiden van kwaad. Want intelligentie – en dus ook kunstmatige intelligentie – kan zowel goed als kwaad zijn. Het is aan de mens om de morele aspecten te beoordelen en daar een beslissing over nemen.

Ethiek en moraliteit

De groeiende uitdaging de komende jaren zal zijn hoe wij als mensen de ethische zijde van nieuwe techniek kunnen én zullen beoordelen. Daar moeten afspraken en wetgeving over gemaakt worden. Dat ligt niet alleen op het vlak van kunstmatige intelligentie die goed of fout kan worden ingezet. Denk bijvoorbeeld ook aan het nieuwe knutselen met DNA, de bouwstenen van het leven. Of de ontwikkeling van robots die zich zelfstandig kunnen bewegen en verplaatsen. De Britse wetenschapper Stephan Hawking waarschuwde niet voor niets al voor autonoom handelende systemen en het gevaar dat zij het heft in eigen handen zouden kunnen nemen. Ingenieurs zullen steeds vaker hun ontwerpen ‘vooraf’ moeten verdedigen in termen van ethische en morele waarden.

Nieuwe techniek en technologie dwarsbomen is geen optie. Maar we moeten voorkomen dat ze tot stand komen in een moreel vacuüm. Met alle risico’s van dien voor de toekomst van de democratie, economie en werk. Dat gold voor de stoommachine en geldt ook voor de zelfrijdende auto. Revoluties moet je niet aanwakkeren of tegenwerken, maar kanaliseren. En dat vraagt de komende jaren veel wijsheid en dus serieus politiek vakmanschap en leiderschap. Dat laatste is op zichzelf al een uitdaging, laat staan die wijsheid verantwoord in onze samenleving uit te rollen, te laten landen en te institutionaliseren.

Door: Hans Timmerman (foto), CTO Dell EMC Nederland