Van louter digitale etalages zijn we de afgelopen twintig jaar gegroeid naar nieuwe bedrijfsmodellen met interactieve klanten platformen. Bedrijven als Uber, AirBnB, Booking.com, etc. zorgden voor andere bedrijfsmodellen en verschuivingen in het krachtenveld. Welke impact gaan hashtag#Data en hashtag#AI hebben op branches en organisaties de komende twintig jaar?
Welke nieuwe takken van sport zullen ontstaan? Welke bedrijven zullen gaan verdwijnen en welke nieuwe bedrijfsmodellen kunnen we verwachten? In welke branches gaat het eerst gebeuren, en hoe kan je hierop anticiperen?
Toekomstige bedrijven
Als er wordt gesproken over hoe Data en AI-bedrijven de komende jaren zal veranderen zien we twee type bedrijven. Enerzijds spreken we van bedrijven waarbij een menselijke rol niet leidend is. Denk hierbij aan de organisaties als Booking. Data en AI spelen hierbij al een grote rol, het idee bestaat dat een volledig data/AI ondersteuning bij deze bedrijven de komende jaren zal plaatsvinden. Anderzijds spreken we van organisaties waar emotionele situaties een grote rol spelen, organisaties zoals het ziekenhuis. Het idee bestaat dat het algoritme in de komende jaren een betere diagnose zal kunnen stellen dan de arts, waar dat niet al zo is. De dialoog over een ziekte, de risico’s en de handeling tussen de arts en patiënt is echter ook een belangrijk onderdeel van het werk. Hierbij is er namelijk sprake van onzekerheden en emoties van de patiënt. De waarde van het algoritme zal in dit geval voornamelijk ondersteunend zijn waarbij de arts de uiteindelijke beslissing maakt en communicatie heeft met de patiënt.
De angst is aanwezig dat we het menselijk aspect uit het oog verliezen. Bij AI zal dit namelijk de boventoon moeten blijven voeren, de mens moet ‘de stekker eruit kunnen trekken’. Emotie is wat mensen drijft – en daar zal de computer zijn beperkingen in hebben en houden. Tegelijkertijd bestaat het idee dat deze kijk op het algoritme zal verschuiven in de loop der tijd. Het vertrouwen in de techniek zal toenemen en daarmee zal noodzakelijke gevoelde ‘grip’ afnemen. Zo boekt iedereen al zijn vakantie via Booking, terwijl men vroeger ook behoefte had aan de reisagent die u meenam door dit proces.
Bij de toepassing van Data en AI werd als essentieel beschouwd dat bedrijven en organisaties goed stil staan bij wat je precies wilt optimaliseren. Wat wil je optimaliseren in een ziekenhuis? Is dat uiteindelijk de gezondheid van de mens, of iets anders? Indien hier niet goed over wordt nagedacht kunnen gevaarlijke situaties ontstaan. Zo zien we dat bij social media het algoritme continu de tijd van de gebruiker op het platform wilt optimaliseren. Deze optimalisatie kan leiden tot negatieve gevolgen met mogelijke psychische schade. Het algoritme is erop ingericht de gebruiker continu te belonen met een korte termijn satisfactie (‘ping’). Feitelijk zitten we hier als samenleving in een groot experiment, waarvan de uitkomsten nog niet duidelijk zijn. Bij verdere gevaren als gevolg van de technische mogelijkheden werd gesproken over hete totale controlesysteem dat China aan het invoeren is.
Verantwoordelijkheid (van mens naar machine?)
Gedurende de tafeldialoog kwamen een aantal onderwerpen geregeld op in het kader van bovenstaande vraagstelling die een bijna filosofische inslag hadden.
Bij organisaties van de toekomst waarbij Data en AI ingezet zal worden met als doel geautomatiseerd optimale keuzes te maken zal de uitlegbaarheid essentieel zijn. Een voorbeeld die vaker werd genoemd is wie eindverantwoordelijke is indien een zelfrijdende auto een foute keuze maakt met mogelijk dodelijke gevolgen? Het is cruciaal de stappen in te kunnen zien over hoe deze keuze tot stand is gekomen. Het ‘black-box’ fenomeen wat wij terugzien bij machine learning algoritmen kan in dit geval niet worden geaccepteerd. Deze noodzaak zien we voornamelijk terug bij besluiten die over mensen gaan, andere voorbeelden hiervan zien we dan ook terug binnen de zorg. Hierbij kan “System says No” zonder uitleg en context niet geaccepteerd worden.
Daarnaast is er bij overdragen van verantwoordelijkheden van mens naar machine ook sprake van een cultureel element. Individueel ingerichte (Westerse) samenlevingen zullen hier wellicht meer moeite mee hebben dan groepsculturen, Oosterse samenlevingen, waar men meer gewend is dat niet één persoon de eindverantwoordelijkheid heeft, maar ‘de groep’. Vraag is dan ook al snel wat ‘bewustzijn’ is – van een persoon, een groep of een computer – en of dit een gradueel gebeuren zal zijn bij verdere voortgang van AI. Mensen hebben wellicht ook geen bewustzijn, maar wel de hoogst bekende manifestatie van bewustzijn?
Conclusie
In de komende tientallen jaren zullen veel functies van de organisatie vervuld kunnen worden door een hashtag#AI-algoritme. De begrenzingen zullen blijken bij organisaties of werkzaamheden waarbij het sociale aspect een grote rol speelt. Indien een algoritme keuzes maakt die over mensen gaan is het cruciaal terug te kunnen herleiden waarom deze keuze gemaakt is. Alhoewel het vertrouwen in een algoritme tevens cultureel afhankelijk is, bestaat er het idee dat dit eventuele wantrouwen in een algoritme zal verschuiven. Het vertrouwen in de techniek zal toenemen op basis van ervaringen en daarmee zal de noodzakelijke gevoelde ‘grip’ op de besluitvorming afnemen.
