Kunstmatige criminaliteit

Lees verder 


Header foto in kolom

Het is u vast al eens opgevallen: de kunstmatig intelligente (KI) systemen komen eraan. Van zelflerende systemen voor cyberverdediging tot aan autonome wapens toe met een ‘license to kill’.

 

In een column van een paar maanden terug beschreef ik aan de hand van chatbot Tay dat kunstmatige intelligentie ook zichzelf crimineel gedrag kan aanleren. Waarom ook niet? Het is gewoon een soort gedrag, zij het dat we dit gedrag niet accepteren. Dus krijgen we straks ook kunstmatige criminaliteit. En gaan we die dan te lijf met kunstmatige intelligentie? Virtuele politieagenten die digitale daders arresteren? En krijgen die dan een digitale straf (cyberpunishment)?

 

Wanneer we de definitie van ‘straf’ eens losjes hanteren, kunnen we de middeleeuwse definitie eens erbij nemen: “een vergelding door de dader in het openbaar in versterkte mate dezelfde kwellingen te laten ondergaan die hij bij het slachtoffer heeft veroorzaakt.”

 

Dan gaan we wraakporno straffen door sensoren in de genitaliën van de dader te implanteren en die te koppelen aan Internet zodat iedereen kan zien wanneer hij opgewonden raakt en vooral door wát. ID diefstal straffen we door de identiteit van de dader door ieder ander te laten misbruiken en hem alles te laten betalen.

 

Maar dat zijn straffen voor mensen. Hoe straf je dan een intelligente machine? Voor straf de stroom eraf? Verplichte herscholing met nieuwe data? Geheugen eruit halen zoals bij HAL in 2001: A Space Odyssey?

 

De software-industrie is berucht om alle verantwoordelijkheid van zich af te schuiven. Het zal me benieuwen welke juridische constructie er zal worden opgezet voor de gebruikersovereenkomst van kunstmatig intelligente systemen. Ik vrees het ergste. 


Wat is goed en wat is slecht?

Bij Tay zagen we al dat wanneer je een KI systeem met ‘slechte’ voorbeelden vult, er een crimineel systeem ontstaat. De fundamentele filosofische vraag die hieronder ligt is al eeuwen oud: Wat is goed en wat is slecht? Wat is deugdzaam?

 

Dat is cultureel bepaald. Samenlevingen hebben zich in de loop der eeuwen ontwikkeld binnen een specifieke set van normen en waarden die we als ‘normaal’ beschouwen. Wie buiten zijn samenleving belandt, wil nog wel eens een culturele schok beleven omdat veel, zo niet alles wat hem/haar ooit geleerd wordt in die andere samenleving onderuit wordt gehaald.

 

De vraag is nu wie straks met al die wereldomspannende technologie zijn set van normen en waarden aan de rest krijgt opgedrongen. Wordt het Amerika met zijn vrije markt en individualisme? Wordt het China met zijn collectivisme en gehoorzaamheid aan de staat? Wordt het Europa met zijn mensenrechten? Of wordt het misschien wel Afrika dat als bakermat van de mens over 25 jaar met iets totaal onverwachts om de hoek komt? De toekomstige geschiedenis zal het ons leren.

 

Civis Sollicitus


Recherche: Diefstal? Of gewoon lui?

Civis Sollicitus: Kunstmatige criminaliteit

14/18
Loading ...