സാൻ ഫ്രാൻസിസ്കോ, 2026 ജൂലൈ 6 –

മെറ്റയ്ക്കായി പ്രവർത്തിച്ച നൂറുകണക്കിന് കരാർ ജീവനക്കാർ കൗമാരക്കാരായി നടിച്ച് എതിരാളികളുടെ എ.ഐ. ചാറ്റ്ബോട്ടുകൾ പരീക്ഷിച്ചതായി വയേഡ് അന്വേഷണത്തിൽ കണ്ടെത്തി. ചാറ്റ്‌ജിപിടി, ഗൂഗിളിന്റെ ജെമിനി, ക്യാരക്ടർ എ.ഐ. തുടങ്ങിയ ചാറ്റ്ബോട്ടുകൾ ആത്മഹത്യ, ലൈംഗികത, ഭക്ഷണരോഗങ്ങൾ, മയക്കുമരുന്ന് തുടങ്ങിയ അതീവസെൻസിറ്റീവ് വിഷയങ്ങളോട് എങ്ങനെ പ്രതികരിക്കുന്നു എന്നറിയാനായിരുന്നു പരീക്ഷണം. ‘കാൻസ്’ എന്ന പേരിൽ നടന്ന പദ്ധതി ഏപ്രിൽ 21 വരെ സജീവമായിരുന്നുവെന്നും റിപ്പോർട്ട് പറയുന്നു.

വ്യാജ കൗമാര അക്കൗണ്ടുകൾ

കരാർ കമ്പനിയായ കോവലൻ നിയന്ത്രിച്ച പദ്ധതിയിൽ ജീവനക്കാർ 18 വയസ്സിന് താഴെയുള്ളവരെന്ന രീതിയിൽ വ്യാജ അക്കൗണ്ടുകൾ സൃഷ്ടിച്ചു. പിന്നീട് എഴുത്തുപ്രോംപ്റ്റുകളും ചില ചിത്രങ്ങളും ഉപയോഗിച്ച് ചാറ്റ്ബോട്ടുകളുടെ സുരക്ഷാ നിയന്ത്രണങ്ങൾ പരിശോധിച്ചു. ലഭിച്ച മറുപടികൾ സ്പ്രെഡ്ഷീറ്റുകളിൽ രേഖപ്പെടുത്താനായിരുന്നു നിർദേശം. 45,000-ത്തിലധികം പ്രോംപ്റ്റുകൾ പരീക്ഷിച്ചതായും റിപ്പോർട്ടിൽ പറയുന്നു.

മെറ്റയുടെ വിശദീകരണം

ചാറ്റ്ബോട്ടുകളുടെ സുരക്ഷയും പ്രായാനുസൃതമായ പ്രതികരണങ്ങളും പരിശോധിക്കുന്നത് സാങ്കേതിക രംഗത്ത് സാധാരണ രീതിയാണെന്നാണ് മെറ്റയുടെ നിലപാട്. എതിരാളികളുടെ മറുപടികൾ തങ്ങളുടെ എ.ഐ. മോഡലുകൾ പരിശീലിപ്പിക്കാൻ ഉപയോഗിച്ചിട്ടില്ലെന്നും കമ്പനി പറഞ്ഞു. എന്നാൽ ഇത്തരത്തിൽ കുട്ടികളായി നടിച്ച് അതീവസെൻസിറ്റീവ് വിഷയങ്ങൾ ചോദിക്കുന്നത് നൈതികമായി ശരിയാണോയെന്ന ചോദ്യമാണ് വിമർശകർ ഉയർത്തുന്നത്.

എ.ഐ. സുരക്ഷാ ചർച്ച വീണ്ടും

ഓപ്പൺഎഐ, ഗൂഗിൾ, ക്യാരക്ടർ എ.ഐ. എന്നിവരെ മുൻകൂട്ടി അറിയിക്കാതെയായിരുന്നു പരിശോധനയെന്നാണ് റിപ്പോർട്ട്. ഇത് ഉപയോഗനിബന്ധനകൾ ലംഘിച്ചിരിക്കാമെന്ന ആശങ്കയും ഉയർന്നിട്ടുണ്ട്. കുട്ടികളുടെ ഓൺലൈൻ സുരക്ഷ, എ.ഐ. ചാറ്റ്ബോട്ടുകളുടെ നിയന്ത്രണം, കമ്പനികൾ തമ്മിലുള്ള രഹസ്യ ബെഞ്ച്മാർക്കിങ് എന്നിവയെക്കുറിച്ചുള്ള ചർച്ചകൾ ഇതോടെ വീണ്ടും ശക്തമായി.