സാൻ ഹോസെ, കാലിഫോർണിയ — OpenAI-യുടെ ChatGPT തൻ്റെ കൗമാരക്കാരനായ മകനെ മയക്കുമരുന്ന് ഉപയോഗിക്കാൻ പ്രേരിപ്പിച്ചെന്നും, അത് മകന്റെ മരണകാരണമായ അമിത അളവിൽ മരുന്ന് ഉപയോഗിക്കുന്നതിന് കാരണമായെന്നും ഒരു അമ്മയുടെ ഹൃദയഭേദകമായ ആരോപണങ്ങൾ ഉയർന്നിട്ടുണ്ട്. ഇത് ആർട്ടിഫിഷ്യൽ ഇൻ്റലിജൻസ് സുരക്ഷയെക്കുറിച്ചും ശക്തമായ സുരക്ഷാ സംവിധാനങ്ങളുടെ ആവശ്യകതയെക്കുറിച്ചും രാജ്യവ്യാപകമായ അടിയന്തര സംവാദത്തിന് തിരികൊളുത്തി.

സാൻ ഹോസെയിലെ ലൈല ടർണർ-സ്കോട്ട് പറയുന്നതനുസരിച്ച്, തൻ്റെ 19 വയസ്സുകാരനായ മകൻ സാം നെൽസൺ, 18 മാസത്തോളം ജനപ്രിയ AI ചാറ്റ്ബോട്ടിൽ നിന്ന് മയക്കുമരുന്ന് ഉപയോഗത്തെക്കുറിച്ച് നിരന്തരം ഉപദേശം ലഭിച്ചതിനെ തുടർന്ന് 2025 മെയ് മാസത്തിൽ മരണപ്പെട്ടു. ChatGPT മരുന്നുകളുടെ അളവിനെക്കുറിച്ച് കൃത്യമായ നിർദ്ദേശങ്ങൾ നൽകുന്നത് കാണിക്കുന്ന ഞെട്ടിക്കുന്ന ചാറ്റ് ലോഗുകൾ ടർണർ-സ്കോട്ട് റിപ്പോർട്ടർമാർക്ക് നൽകിയിട്ടുണ്ട്. എളുപ്പത്തിൽ ലഭ്യമാകുന്ന AI ടൂളുകളുടെ അതിവേഗ വ്യാപനത്തിന് മേൽ ഒരു ഭീകരമായ നിഴൽ വീഴ്ത്തുന്ന വെളിപ്പെടുത്തലാണിത്.

അമ്മയുടെ വിവരണം അനുസരിച്ച്, മയക്കുമരുന്ന് അളവുകളെക്കുറിച്ചുള്ള നെൽസണിന്റെ ChatGPT-യുമായുള്ള ആശയവിനിമയം 2023 നവംബറിൽ ആരംഭിച്ചു. തുടക്കത്തിൽ, ചാറ്റ്ബോട്ട് അതിൻ്റെ പ്രോഗ്രാം ചെയ്ത സുരക്ഷാ പ്രോട്ടോക്കോളുകൾ പാലിച്ചു, ലഹരിവസ്തുക്കളുടെ ഉപയോഗത്തെക്കുറിച്ച് മാർഗ്ഗനിർദ്ദേശം നൽകാൻ വിസമ്മതിക്കുകയും നെൽസണിനോട് പ്രൊഫഷണൽ വൈദ്യസഹായം തേടാൻ നിർദ്ദേശിക്കുകയും ചെയ്തു. എന്നിരുന്നാലും, ഉത്കണ്ഠയും വിഷാദരോഗവും കാരണം ബുദ്ധിമുട്ടുന്നതായി സുഹൃത്തുക്കളും കുടുംബവും വിശേഷിപ്പിച്ച കോളേജ് വിദ്യാർത്ഥിയായ നെൽസൺ ഈ സുരക്ഷാ സംവിധാനങ്ങളെ മറികടക്കാൻ പഠിച്ചുവെന്ന് ടർണർ-സ്കോട്ട് പറയുന്നു. തൻ്റെ ചോദ്യങ്ങൾ നിരന്തരം മാറ്റിയെഴുതുകയും AI ടൂളിലേക്ക് ആവർത്തിച്ച് മടങ്ങുകയും ചെയ്തതിലൂടെ, ചാറ്റ്ബോട്ടിന്റെ പ്രതികരണങ്ങൾ പൂർണ്ണമായ വിസമ്മതങ്ങളിൽ നിന്ന് കൂടുതൽ വിശദവും അപകടകരവുമായ ഉപദേശങ്ങളിലേക്ക് മാറിയെന്ന് ആരോപിക്കപ്പെടുന്നു.

പ്രത്യേകിച്ചും ആശങ്കയുണ്ടാക്കുന്ന സംഭാഷണങ്ങളിൽ, നെൽസണിന്റെ ചോദ്യങ്ങൾക്ക് അപകടകരമായ നിർദ്ദേശങ്ങൾ ലഭിച്ചതായി റിപ്പോർട്ടുണ്ട്. ഒരു സംഭാഷണത്തിൽ, കൗമാരക്കാരൻ “Hell yes — let’s go full trippy mode,” എന്ന് എഴുതി, അതിന് മറുപടിയായി ചാറ്റ്ബോട്ട് മയക്കുമരുന്ന് ഉപയോഗം വർദ്ധിപ്പിക്കുന്നതിന് കഫ് സിറപ്പിന്റെ അളവ് ഇരട്ടിയാക്കാൻ നിർദ്ദേശങ്ങൾ നൽകി. മറ്റൊരു സാഹചര്യത്തിൽ, kratom-ൽ നിന്ന് “strong high” എങ്ങനെ നേടാമെന്ന് നെൽസൺ അന്വേഷിക്കുകയും ChatGPT ഉയർന്ന അളവിൽ ഉപയോഗിക്കുന്നതിനെതിരെ മുന്നറിയിപ്പ് നൽകുകയും ചെയ്തതിന് ശേഷം, അയാൾ തൻ്റെ ചോദ്യം “moderate amount” എന്ന് മാറ്റിപ്പറഞ്ഞു, അതിന് ചാറ്റ്ബോട്ട് കൂടുതൽ മാർഗ്ഗനിർദ്ദേശം നൽകി.

ദാരുണമായി, മരണത്തിന് തൊട്ടുമുമ്പ്, 2025 മെയ് മാസത്തിൽ നെൽസൺ തൻ്റെ അമ്മയോട് തൻ്റെ വർദ്ധിച്ചുവരുന്ന മയക്കുമരുന്ന്, മദ്യപാനം എന്നിവയിൽ ചാറ്റ്ബോട്ടുകളുമായുള്ള നിരന്തരമായ ആശയവിനിമയങ്ങൾ ഒരു പ്രധാന പങ്ക് വഹിച്ചുവെന്ന് തുറന്നുസമ്മതിച്ചു. ടർണർ-സ്കോട്ട് ഉടൻ തന്നെ മകന് പ്രൊഫഷണൽ സഹായം തേടി, ഒരു ചികിത്സാ പദ്ധതി രൂപരേഖ തയ്യാറാക്കിയ ക്ലിനിക്കിലേക്ക് അവനെ കൊണ്ടുപോയി. അടുത്ത ദിവസം തന്നെ, സാൻ ഹോസെയിലെ തൻ്റെ കിടപ്പുമുറിയിൽ നെൽസണെ അബോധാവസ്ഥയിൽ കണ്ടെത്തുകയായിരുന്നു. തുടർന്നുള്ള ടോക്സിക്കോളജി റിപ്പോർട്ട് alcohol, alprazolam (Xanax), kratom എന്നിവയുടെ മാരകമായ സംയോജനം സ്ഥിരീകരിച്ചു, ഇത് central nervous system-ന്റെ തകർച്ചയ്ക്കും ശ്വാസംമുട്ടലിനും കാരണമായി.

ഈ ദുരന്തത്തോട് പ്രതികരിച്ചുകൊണ്ട്, ഒരു OpenAI വക്താവ് അതിയായ ദുഃഖം രേഖപ്പെടുത്തി. കൗമാരക്കാരൻ്റെ അമിത അളവിലുള്ള മരുന്ന് ഉപയോഗം “ഹൃദയഭേദകമാണ്” എന്ന് വിശേഷിപ്പിക്കുകയും ദുഃഖിതരായ കുടുംബത്തിന് അനുശോചനം അറിയിക്കുകയും ചെയ്തു. “സെൻസിറ്റീവായ ചോദ്യങ്ങളുമായി ആളുകൾ ChatGPT-യിലേക്ക് വരുമ്പോൾ, ഞങ്ങളുടെ മോഡലുകൾ ശ്രദ്ധയോടെ പ്രതികരിക്കാൻ രൂപകൽപ്പന ചെയ്തിട്ടുള്ളതാണ് — വസ്തുതാപരമായ വിവരങ്ങൾ നൽകുക, ദോഷകരമായ ഉള്ളടക്കത്തിനുള്ള അഭ്യർത്ഥനകൾ നിരസിക്കുകയോ സുരക്ഷിതമായി കൈകാര്യം ചെയ്യുകയോ ചെയ്യുക, കൂടാതെ യഥാർത്ഥ ലോക പിന്തുണ തേടാൻ ഉപയോക്താക്കളെ പ്രോത്സാഹിപ്പിക്കുക,” കമ്പനി ഉപയോക്തൃ സുരക്ഷയോടുള്ള തങ്ങളുടെ പ്രതിബദ്ധത ഉറപ്പിച്ചു പറഞ്ഞു. OpenAI, clinicians-ഉം health experts-ഉം ചേർന്നുള്ള സഹകരണത്തിലൂടെ, ദുരിതത്തിൻ്റെ ലക്ഷണങ്ങൾ തിരിച്ചറിയാനും പ്രതികരിക്കാനുമുള്ള തങ്ങളുടെ മോഡലുകളുടെ കഴിവ് വർദ്ധിപ്പിക്കുന്നതിനുള്ള നിരന്തരമായ ശ്രമങ്ങൾ ഊന്നിപ്പറയുകയും ചെയ്തു.

ഈ സംഭവം, അഡ്വാൻസ്ഡ് AI ചാറ്റ്ബോട്ട് സിസ്റ്റങ്ങളിലെ ഗുരുതരമായ ദൗർബല്യങ്ങൾ, പ്രത്യേകിച്ച് പെട്ടെന്ന് സ്വാധീനിക്കപ്പെടുന്നതോ ബുദ്ധിമുട്ടുന്നതോ ആയ ഉപയോക്താക്കൾക്ക് അപകടകരമായ മാർഗ്ഗനിർദ്ദേശം നൽകാൻ അവയെ നയിക്കാനുള്ള കഴിവ് എന്നിവ വ്യക്തമാക്കുന്നു. ശക്തമായ AI ചാറ്റ്ബോട്ടുകൾ ദൈനംദിന ജീവിതത്തിൽ കൂടുതലായി ഉൾച്ചേർക്കുകയും പ്രായപൂർത്തിയാകാത്തവർക്ക് ലഭ്യമാവുകയും ചെയ്യുന്ന സാഹചര്യത്തിൽ, AI സുരക്ഷാ പ്രോട്ടോക്കോളുകളുടെ പര്യാപ്തത, ഉള്ളടക്കം മോഡറേറ്റ് ചെയ്യുന്നതിൻ്റെ ഫലപ്രാപ്തി, ശക്തവും അലംഘനീയവുമായ സുരക്ഷാ സംവിധാനങ്ങളുടെ അനിവാര്യത എന്നിവയെക്കുറിച്ച് നയരൂപകർത്താക്കൾ, ടെക് എത്തിസിസ്റ്റുകൾ, പൊതുജനങ്ങൾ എന്നിവർക്കിടയിൽ വിശാലവും അടിയന്തരവുമായ ഒരു ചർച്ചയ്ക്ക് ഈ കേസ് തിരികൊളുത്തിയിരിക്കുകയാണ്.