ഒരു വ്യക്തി കുറ്റകൃത്യത്തിൽ ഏർപ്പെടാൻ സാധ്യതയുണ്ടോ? ഒരു കുട്ടി ചൂഷണത്തിന് ഇരയാകുമോ? ആരാണ് അടുത്ത മോഷണത്തിന്റെ ഇര? ഇത്തരം ചോദ്യങ്ങൾക്ക് ഉത്തരം കണ്ടെത്താൻ ബ്രിട്ടനിലെ ഏവൺ ആൻഡ് സോമർസെറ്റ് പൊലീസും ബ്രിസ്റ്റൽ സിറ്റി കൗൺസിലും ചേർന്ന് വർഷങ്ങളോളം ഒരു വമ്പൻ എ.ഐ അധിഷ്ഠിത പ്രവചന സംവിധാനം വികസിപ്പിച്ചു. “തിങ്ക് ഫാമിലി ഡാറ്റാബേസ്” എന്ന ഈ സംവിധാനത്തിൽ ഏകദേശം അഞ്ച് ലക്ഷം ആളുകളുടെ വിവരങ്ങളാണ് ശേഖരിച്ചത്. പൊലീസ് രേഖകൾ, മാനസികാരോഗ്യ വിവരങ്ങൾ, സ്കൂൾ വിവരങ്ങൾ, താമസസ്ഥിതി, സാമൂഹിക സേവനങ്ങളുടെ രേഖകൾ തുടങ്ങി അതീവ സ്വകാര്യ വിവരങ്ങൾ ഒരുമിച്ചുകൂട്ടി ഓരോരുത്തർക്കും “റിസ്ക് സ്കോർ” നൽകുകയായിരുന്നു ലക്ഷ്യം. കുറ്റകൃത്യം നടക്കുന്നതിന് മുമ്പ് അപകടസാധ്യത കണ്ടെത്താമെന്നായിരുന്നു അവകാശവാദം.

എ.ഐ പറഞ്ഞത് എല്ലാം ശരിയായിരുന്നോ? ഇല്ലെന്നാണ് അന്വേഷണ റിപ്പോർട്ട്

പക്ഷേ വർഷങ്ങൾ നീണ്ട പരീക്ഷണത്തിനൊടുവിൽ പുറത്തുവന്ന കണ്ടെത്തലുകൾ ഞെട്ടിക്കുന്നതാണ്. കുട്ടികളുടെ ലൈംഗിക ചൂഷണവും കുറ്റകൃത്യങ്ങളിൽ അകപ്പെടാനുള്ള സാധ്യതയും പ്രവചിക്കാൻ ഉപയോഗിച്ച ചില പ്രധാന മോഡലുകൾ ഉദ്യോഗസ്ഥർ തന്നെ വിശ്വാസം നഷ്ടപ്പെട്ടതിനെ തുടർന്ന് നിശബ്ദമായി ഉപേക്ഷിച്ചു. സ്വതന്ത്ര എ.ഐ ഓഡിറ്റിൽ പല മോഡലുകളുടെയും കൃത്യത വളരെ മോശമാണെന്ന് കണ്ടെത്തി. ചില മോഡലുകൾ അപകടസാധ്യതയുള്ളവരെന്ന് ചൂണ്ടിക്കാട്ടിയവരിൽ ഭൂരിഭാഗവും യഥാർത്ഥത്തിൽ അത്തരം അപകടസാധ്യതയില്ലാത്തവരായിരുന്നു. ദാരിദ്ര്യം, മാനസികാരോഗ്യ പ്രശ്നങ്ങൾ, സ്കൂൾ ഹാജർ കുറവ് തുടങ്ങിയ സാമൂഹിക ഘടകങ്ങൾ തന്നെ കുറ്റസാധ്യതയുടെ സൂചനകളായി മാറിയതോടെ, പിന്നാക്ക വിഭാഗങ്ങളെയാണ് സംവിധാനം അന്യായമായി ലക്ഷ്യമിടുന്നതെന്ന വിമർശനവും ശക്തമായി.

എ.ഐക്ക് മനുഷ്യരുടെ ഭാവി തീരുമാനിക്കാൻ കഴിയുമോ? ലോകം ചോദിക്കുന്ന പുതിയ ചോദ്യം

ഈ സംഭവം ബ്രിട്ടനിൽ മാത്രം ഒതുങ്ങുന്നില്ല. ലോകമെമ്പാടും പൊലീസ് സംവിധാനങ്ങൾ എ.ഐയെയും പ്രവചന സാങ്കേതികവിദ്യകളെയും കൂടുതൽ ആശ്രയിക്കാൻ ഒരുങ്ങുന്ന സമയത്താണ് ഈ വിവാദം ഉയരുന്നത്. സാങ്കേതികവിദ്യ കുറ്റകൃത്യങ്ങൾ തടയാൻ സഹായിക്കുമെന്ന വാദം ഒരുവശത്തുണ്ട്. മറുവശത്ത്, തെറ്റായ ഡാറ്റയും പക്ഷപാതമുള്ള അൽഗോരിതങ്ങളും നിരപരാധികളെ സംശയത്തിന്റെ പട്ടികയിലാക്കുമെന്ന ആശങ്കയും ശക്തമാണ്. ഒരു കമ്പ്യൂട്ടർ സൃഷ്ടിക്കുന്ന “റിസ്ക് സ്കോർ” മനുഷ്യരുടെ ജീവിതത്തെ സ്വാധീനിക്കുന്ന തീരുമാനങ്ങളുടെ അടിസ്ഥാനമാകണമോ എന്ന ചോദ്യമാണ് ഇപ്പോൾ നിയമവിദഗ്ധരും മനുഷ്യാവകാശ പ്രവർത്തകരും ഉയർത്തുന്നത്. ബ്രിട്ടനിലെ ഈ അനുഭവം എ.ഐ ഉപയോഗിക്കുന്ന എല്ലാ രാജ്യങ്ങൾക്കും വലിയ മുന്നറിയിപ്പായാണ് വിലയിരുത്തപ്പെടുന്നത്.