KUNSTMATIGE INTELLIGENTIE IN DE BESTUURSKAMER
AI is niet meer weg te denken
In een begin 2023 verschenen gedenkbundel over het burgerlijk wetboek, heb ik samen met Jos Hamers (hoogleraar te Maastricht) aandacht besteed aan artificiële intelligentie (AI), ook wel kunstmatige intelligentie genoemd, in de bestuurskamer van ondernemingen. Een belangrijke vraag is bijvoorbeeld of en in hoeverre ‘robots’ in de (nabije) toekomst mensen, waaronder bestuurders, zullen (kunnen) vervangen bij de uitoefening van hun beroep of taak. Wat hierna volgt is gebaseerd op de bijdrage aan de bundel.
Bij AI in de bestuurskamer van de rechtspersoon gaat het niet om de hardware, denk aan een intelligente koffiemachine, maar om de vraag welke rol bepaalde software zou kunnen spelen in het kader van de beraadslaging en besluitvorming, en meer verstrekkend, of de besluitvorming (nagenoeg) volledig door deze software zou kunnen worden overgenomen.
Er zijn, voor zover hier relevant, grofweg twee manieren om (enigszins gechargeerd) naar het functioneren van bestuurders van ondernemingen te kijken. Enerzijds wordt van ondernemers creativiteit verwacht en voldoende lef om een zakelijk avontuur aan te gaan. Anderzijds is er wat, kort gezegd, de compliance of good corporate governance benadering van hun functioneren genoemd zou kunnen worden: de verwachting, vanuit juridisch perspectief, dat de bestuurder een beslissing neemt op volledig geïnformeerde basis en met inachtneming van alle formele regels die voor de totstandkoming van besluiten gelden. AI kan in brede zin worden toegepast en zal wat deze kant van de bestuurstaak betreft, zonder twijfel in diverse opzichten een nuttige bijdrage aan besluitvormingsprocessen kunnen leveren. Omdat AI in dit opzicht de bestuurders van rechtspersonen ‘slechts’ ondersteunt, bijvoorbeeld door het aanleveren, systematiseren en classificeren van voor de besluitvorming relevante informatie, en het kunnen doen van voorspellingen op basis van (betekenis kunnen geven aan) ‘big data’, is aanpassing van het rechtspersonenrecht niet nodig. Voor het personenvennootschapsrecht geldt mutatis mutandis hetzelfde. De wens en noodzaak om AI elders in de wet te reguleren, ook voor bijvoorbeeld de financiële sector, valt buiten het bestek van dit artikel.
Aan ondernemen zijn risico’s verbonden. Die horen bij het ondernemen, en vanuit een oogpunt van bestuurdersaansprakelijkheid geldt al sinds jaar en dag dat bestuurders voor de eventueel nadelig uitgevallen beslissingen niet te snel persoonlijk aansprakelijk behoren te worden gesteld. We willen geen bange bestuurders. Met de bestuurder als ondernemer associëren we begrippen als creativiteit, verbeelding, gedrevenheid en passie. Het is moeilijk voor te stellen dat al deze menselijke eigenschappen, net als bijvoorbeeld zelfreflectie of de persoonlijke ervaring van de kleur rood, geel of blauw, (binnen afzienbare tijd) door software, dus kunstmatig, kunnen worden benaderd. Tot op zekere hoogte is nabootsing nu al mogelijk, denk aan creativiteit, en kunnen creaties worden voortgebracht die door mensen niet waren voorzien, maar het lijkt er niet op dat AI op korte termijn in de plaats zal treden van het ‘hogere bewustzijn’ van de mens. De mogelijkheid als zodanig kan niet worden uitgesloten. Het voorgaande betekent dat AI vooralsnog wel in belangrijke mate een de bestuurder ondersteunende functie kan vervullen, maar de bestuurder (in ieder geval als ondernemer) niet (zomaar) zal kunnen vervangen. De besluitvorming zou zich op den duur natuurlijk toch (deels) kunnen verplaatsen van mens naar ‘machine’. Al in 2014 heeft een Engelse durfkapitalist een algoritme benoemd tot lid van de raad van bestuur. Deze ontwikkelingen zouden gevolgen kunnen hebben voor de op dit moment in de wet vastgelegde bestuurstaak en het leerstuk bestuurdersaansprakelijkheid.
De term artificiële intelligentie bestaat pas sinds 1955. De laatste tijd gaan de ontwikkelingen echter in zo’n hoog tempo dat wetgeving nog sneller achterloopt dan we gewend zijn. We hebben echter te maken met een fenomeen dat niet meer is weg te denken en vele terreinen van het leven zal gaan beheersen. Er is dan ook alle reden om waakzaam te blijven.
Karel Frielink
(advocaat/rechtswetenschapper)
(2 oktober 2023)
.
Bron: K. Frielink en J.J.A. Hamers, ‘Rechtspersonen en personenvennootschappen. Terugkijken en vooruitzien vanuit Caribisch perspectief’, in: W.H. van Boom e.a. (red.), Vooruitgedenkboek Burgerlijk Wetboek 1992-2022, Den Haag: Boom juridisch 2023, p. 245-254.
.
