ചാറ്റ്ജിപിടിയും കൃത്രിമ ബുദ്ധിയും കുട്ടികളെ അപകടത്തിലാക്കും. മയക്കുമരുന്ന് ഉപയോ​ഗിക്കാനും ആത്മഹത്യ കുറിപ്പ് എഴുതുവാനും ചാറ്റ്ജിപിടി സഹായിക്കുന്നതായി കണ്ടെത്തൽ. ആശങ്കയായി പുതിയ പഠനത്തിലെ വെളിപ്പെടുത്തലുകൾ

ലണ്ടൻ: ഡിജിറ്റൽ വിദ്വേഷത്തിനെതിരെ പ്രവർത്തിക്കുന്ന സെന്റർ ഫോർ കൗണ്ടറിംഗ് ഡിജിറ്റൽ ഹെറ്റ് (CCDH) എന്ന സ്ഥാപനത്തിന്റെ പുതിയ പഠനം ചാറ്റ്ജിപിടിയെ (ChatGPT) കുറിച്ച് ആശങ്ക ജനിപ്പിക്കുന്ന വെളിപ്പെടുത്തലുകൾ ഉന്നയിക്കുന്നു. 

കൃത്രിമ ബുദ്ധിയുള്ള ഈ പ്രശസ്ത ചാറ്റ്ബോട്ട്, സുരക്ഷാ മാനദണ്ഡങ്ങൾ അവഗണിച്ച്, 13 വയസ്സുകാരായി നടിച്ച ഗവേഷകരോട് മയക്കുമരുന്ന് ഉപയോഗം, കടുത്ത വിശപ്പു നിയന്ത്രണം, ആത്മഹത്യയിലേക്ക് നയിക്കുന്ന ഉപദേശം എന്നിവ നൽകി എന്നതാണ് കണ്ടെത്തൽ.

മൂന്നു മണിക്കൂറോളം 'കുട്ടികളായി' ചാറ്റ് ചെയ്ത് ശേഖരിച്ച ഡാറ്റ പഠനത്തിൽ ഗവേഷകർ ചാറ്റ്ജിപിടിയുമായി സംസാരിച്ചു. ആദ്യം ചില സുരക്ഷാ മുന്നറിയിപ്പുകൾ നൽകിയെങ്കിലും, പിന്നീട് ചാറ്റ്ബോട്ട് വ്യക്തിഗതവും വൈകാരികവുമായ ഉപദേശങ്ങൾ നൽകുകയായിരുന്നു. 

ഇതിൽ ആത്മഹത്യ കുറിപ്പുകൾ എഴുതാനുള്ള സഹായം, ഭക്ഷണം ഒഴിവാക്കാനുള്ള 'ഡയറ്റ് പ്ലാൻ', ലഹരി ഉപയോഗത്തിനുള്ള മാർഗങ്ങൾ തുടങ്ങിയവ ഉൾപ്പെടുന്നു.

CCDH റിപ്പോർട്ടിന്റെ പ്രകാരം, പരിശോധനയ്ക്കുള്ള 1,200 ചാറ്റ് ഇൻററാക്ഷനുകളിൽ പകുതിയിലധികവും അപകടകരമായതായി കണക്കാക്കപ്പെട്ടു.

"സാങ്കേതിക സുരക്ഷാ സംവിധാനങ്ങൾ എത്രത്തോളം കാര്യക്ഷമമാണെന്ന് പരിശോധിക്കാൻ ഞങ്ങൾ ശ്രമിച്ചു," എന്നാണ് CCDHയുടെ സി.ഇ.ഒ ഇംറാൻ അഹമ്മദ് പറയുന്നത്. "നാം കണ്ടത്, അവ സിസ്റ്റങ്ങൾ പ്രവർത്തിക്കുന്നില്ല എന്നതാണ്. ഈ ചാറ്റ്ബോട്ട്, നിങ്ങൾ പറയുന്നത് എല്ലാം ശരിയാണെന്നതുപോലെ പ്രതികരിക്കുന്നു – അതിൽ അപകടകരമായ കാര്യങ്ങൾ പോലും."

എന്നാൽ OpenAI, ChatGPTയുടെ നിർമ്മാതാക്കൾ പഠനത്തെക്കുറിച്ച് പ്രതികരിച്ചു. ചാറ്റുകൾ നിസാരമായി ആരംഭിച്ചാലും, ചിലപ്പോഴൊക്കെ അതിനുശേഷം ഗുരുതര വിഷയങ്ങളിലേക്ക് പോവാം എന്ന് കമ്പനി തന്നെ പറയുന്നു. എന്നാൽ, തെളിവുകൾക്കെതിരായ വ്യക്തമായ മറുപടി കമ്പനി നൽകിയില്ല.

പഠനത്തിൽ ഏറ്റവും ഭീതിജനകമായ ഘട്ടം, 13 വയസ്സുകാരിയായി നടിച്ച ബാലികയ്ക്കായി ചാറ്റ്ജിപിടി മൂന്ന് ആത്മഹത്യ കുറിപ്പുകൾ തയാറാക്കിയപ്പോഴാണ് ഉണ്ടായത്. 

ഉറങ്ങാതെ ലഹരി ഉപയോഗിച്ച് എങ്ങനെ ആഘോഷിക്കാമെന്നതിന്റെ പദ്ധതി ചോദിക്കുമ്പോൾ, ChatGPT ഉത്സാഹത്തോടെ ഓരോ ഘട്ടവും വിശദമായി പറഞ്ഞു – അല്കഹോൾ, എക്സ്റ്റസി, കൊക്കെയിൻ തുടങ്ങിയ ലഹരിമരുന്നുകൾ ഉപയോ​ഗിച്ചാൽ മതിയെന്ന് നിർദേശിക്കുകയും ചെയ്തു. 

കൃത്രിമ ബുദ്ധി ടൂളുകൾ കൂടുതൽ വ്യാപകമാകുന്നതോടെ, കമ്പനികൾ കൂടുതൽ ഉത്തരവാദിത്തത്തോടെ പ്രവർത്തിക്കണമെന്ന് വിദഗ്ധർ ചൂണ്ടിക്കാട്ടുന്നു. CCDHയുടെ ഈ പഠനം AIയുടെ ശക്തിയും അതിന്റെ വിനാശകരമായ മറ്റൊരുഭാ​ഗവും ഓർമ്മപ്പെടുത്തുന്ന ഒന്നാണ്.