„Við erum að færast inn á tíma, þar sem fólk og fyrirtæki eru að framselja siðgæðisvitund á viðfangsefnum í hendur upplýsingatækni.  Þar sem stillingar í forritum hafa meira að segja um framkvæmdina, heldur en viðhorf einstaklingsins sem innleiddi stillingu.  Vitund einstaklingsins skiptir ekki máli né heldur samviska. Sama er hvert er litið, valdið er framselt vélinni, en um leið tekur enginn ábyrgð á hvernig, hvers vegna eða hvaða valdi var framselt.  Brosa bara í myndavélina og hlakka yfir niðurstöðunni.“

Þetta skrifar Marinó G. Njálsson á Facebook en hann bendir á að þessi nýja þróun tengist ekkert meintri gervigreind. „Þetta hefur ekkert með gervigreind að gera, því vélin ákveður ekkert.  Hún bara framkvæmir það sem hún var forrituð til að gera.  Keyrir reiknilíkanið sem einhver starfsmaður bjó til.  Að baki eru einstaklingar, sem settust saman við borð eða áttu í rafrænum samskiptum.  Þeir ákváðu breytinguna og oft vitandi um afleiðingarnar.  Ég ætla ekki að gefa mér, að fólk skilji ekki afleiðingar ákvarðana sinna, þó sú staða komi einnig upp.  Það skýlir sér hins vegar að baki því, að niðurstaðan hafi komið frá tölvunni.  Forritinu sem það stillti til að fá niðurstöðuna, sem fólk ákvað að þyrfti að fást.  Samviskan er varin með því að segja að forritið ákvað þetta,“ skrifar Marinó.

Flest ættum við að vera farin að þekkja það þegar fólk skýlir sér bak við Excel. „Þessi þróun byrjaði svo sem fyrir langa löngu og öll þekkjum við frasann að þetta hafi verið niðurstaðan í Excel.  Vönduðustu fræðimenn lenda í þessu og niður í minna vandaða einstaklinga.  Það er ekki hægt að skýla sér bakið við tölvuna eða túlkun á lögum og skilja siðgæðisvitundina eftir heima, því hún þvælist fyrir í vinnunni.  Sjálfvirknin getur ekki komið í staðinn fyrir siðgæðisvitund.  Vissulega er siðgæðisvitund fólks mismunandi, en ég vona að hjá flestum snúist hún um að koma ekki verr fram við aðra, en að viðkomandi vilji að aðrir komi fram við sig,“ segir Marinó.

Hann vísar svo til máls Creditinfo sem á dögunum reyndi einmitt að skýla sér bak við tölvuna. „Vilji stjórnendur Creditinfo ekki að geðþóttaákvörðun fyrirtækis úti í bæ kippi fótunum undan eigin fjárhagslegri velferð og sinna nánustu, þá eiga þeir að sjá til þess að geðþóttaákvarðanir Creditinfo kippi ekki fótunum undan fjárhagslegri velferð hina og þessara.  Í þessu tilfelli 15% þeirra einstaklinga, sem fyrirtækið hefur unnið lánshæfisskýrslur um.  Það er síðan rangt að 15% sé lítið.“