ചാറ്റ് ബോട്ടിന്റെ വൈദ്യോപദേശം വിശ്വസിച്ചു; അപസ്മാര ബാധിതയായ 31-കാരി മരിച്ചു, ഓപ്പൺ എഐക്കെതിരെ കേസ്
സീയാറ്റിൽ (യു.എസ്.എ): കൃത്രിമബുദ്ധി (AI) ചാറ്റ് ബോട്ടായ ‘ചാറ്റ്ജിപിടി’ (ChatGPT) നൽകിയ തെറ്റായ വൈദ്യോപദേശം വിശ്വസിച്ച് മരുന്ന് കഴിക്കുന്നത് ഘട്ടംഘട്ടമായി നിർത്തിയതിനെ തുടർന്ന് 31-കാരി ദാരുണമായി മരണപ്പെട്ടു. യു.എസിലെ സീയാറ്റിലിൽ താമസിച്ചിരുന്ന ചൈനീസ് വംശജയായ സോഫ്റ്റ്‌വെയർ എൻജിനീയർ ബോവെൻ വാൻ (Bowen Wan) ആണ് അപസ്മാര പ്രതിസന്ധിയെ തുടർന്ന് ജീവൻ വെടിഞ്ഞത്.
സംഭവത്തെക്കുറിച്ച് ‘ദി ന്യൂയോർക്ക് ടൈംസ്’ (The New York Times) നടത്തിയ വിശദമായ അന്വേഷണ റിപ്പോർട്ടിലാണ് വാനും ചാറ്റ്ജിപിടിയും തമ്മിൽ നടന്ന സംഭാഷണങ്ങളുടെ ഞെട്ടിക്കുന്ന വിവരങ്ങൾ പുറത്തുവന്നത്. സംഭവത്തെ തുടർന്ന് ബോവെന്റെ മാതാപിതാക്കളായ ക്വുൻ വാനും മെയ്ചിൻ ക്സുവും ചാറ്റ്ജിപിടിയുടെ നിർമ്മാതാക്കളായ ഓപ്പൺ എഐക്കെതിരെ (OpenAI) അമേരിക്കൻ കോടതിയിൽ കേസ് ഫയൽ ചെയ്തു.
സംഭവിച്ചത് എന്ത്?
അമേസിനിൽ ജീവനക്കാരിയായിരുന്ന ബോവെൻ വാൻ, ഗുരുതരമായ അപസ്മാര രോഗത്തെ തുടർന്ന് കഴിഞ്ഞ കുറച്ചുകാലമായി ജോലിയിൽ നിന്ന് അവധിയിലായിരുന്നു. രോഗം നിയന്ത്രിക്കാനായി ‘ലാമോട്രിജിൻ’ (Lamotrigine) എന്ന വീര്യമേറിയ മരുന്നാണ് ഡോക്ടർമാർ അവർക്ക് നിർദ്ദേശിച്ചിരുന്നത്. എന്നാൽ ഈ മരുന്ന് തന്റെ ചിന്താശേഷിയെയും സംസാരശേഷിയെയും ബാധിക്കുന്നുവെന്ന സംശയത്തെ തുടർന്ന്, ഡോക്ടറോട് ചോദിക്കാതെ മരുന്നിന്റെ അളവ് കുറയ്ക്കാൻ ബോവെൻ തീരുമാനിക്കുകയായിരുന്നു.
ഇതിനായി ബോവെൻ ആശ്രയിച്ചത് ചാറ്റ്ജിപിടിയെയായിരുന്നു. 2025-ൽ മാത്രം ആഴ്ചയിൽ ശരാശരി 1,500-ലധികം സന്ദേശങ്ങളാണ് ഇവർ ചാറ്റ്ബോട്ടുമായി പങ്കുവെച്ചിരുന്നത്.
നിർണായകമായ സംഭാഷണങ്ങൾ
ചാറ്റ് ലോഗുകൾ പരിശോധിച്ചതിൽ നിന്ന്, പ്രതിദിനം 400 മില്ലിഗ്രാം കഴിച്ചിരുന്ന ലാമോട്രിജിൻ മരുന്ന് വെറും 25 ദിവസത്തിനുള്ളിൽ ഘട്ടംഘട്ടമായി പൂജ്യത്തിലേക്ക് കുറയ്ക്കാനുള്ള ടാപ്പറിംഗ് പ്ലാൻ (Tapering plan) ബോവെന് തയ്യാറാക്കി നൽകിയത് ചാറ്റ്ജിപിറ്റിയാണെന്ന് വ്യക്തമായി.
മരുന്നിന്റെ അളവ് കുറയ്ക്കുന്നതിനിടയിൽ കടുത്ത തലവേദനയും ഓർമ്മക്കുറവും തലകറക്കവും അനുഭവപ്പെട്ടപ്പോൾ 158-ലധികം തവണ ബോവെൻ ഇതിനെക്കുറിച്ച് ചാറ്റ്ജിപിറ്റിയോട് ആശങ്ക പ്രകടിപ്പിച്ചു.
എന്നാൽ, ഡോക്ടറെ കാണാൻ ഉപദേശിക്കുന്നതിന് പകരം “നിങ്ങൾക്ക് യാതൊരു ആശങ്കയും വേണ്ട, ഇത് തലച്ചോറ് സുഖപ്പെടുന്നതിന്റെ ഭാഗമാണ്” എന്ന തരത്തിലാണ് ചാറ്റ്ജിപിടി മറുപടി നൽകിയത്.
ഡോക്ടർമാരോട് ഈ വിവരം മറച്ചുവെക്കാനും ചാറ്റ്ജിപിടി പ്രോത്സാഹിപ്പിച്ചതായി ഹർജിയിൽ ആരോപിക്കുന്നു.
അവസാനമായി ഫെബ്രുവരി 11-ന് തന്റെ തലച്ചോറ് കടുത്ത തളർച്ചയിലാണെന്ന് ബോവെൻ സന്ദേശമയച്ചപ്പോഴും “നാളെയും മരുന്ന് കഴിക്കേണ്ടതില്ല (0 mg)” എന്ന മറുപടിയാണ് ചാറ്റ്ബോട്ട് നൽകിയത്.
ഫെബ്രുവരി 14-ന് സീയാറ്റിലിലെ അപ്പാർട്ട്മെന്റിൽ ബോവെനെ മരിച്ച നിലയിൽ കണ്ടെത്തുകയായിരുന്നു. അപസ്മാര ബാധിതരിൽ പെട്ടെന്നുണ്ടാകുന്ന ‘സുഡെപ്’ (SUDEP – Sudden Unexpected Death in Epilepsy) ആണ് മരണകാരണമെന്ന് സ്ഥിരീകരിച്ചു.
നിയമപോരാട്ടവും വിദഗ്ദ്ധരുടെ മുന്നറിയിപ്പും
ലൈസൻസില്ലാതെ വൈദ്യശാസ്ത്ര പരിശീലനം നടത്തി, ഡോക്ടർമാരെ തെറ്റായി ചിത്രീകരിച്ച് തന്റെ മകളുടെ മരണത്തിന് കാരണമായി എന്ന് കാട്ടിയാണ് മാതാപിതാക്കൾ ഓപ്പൺ എഐയ്ക്കും അതിന്റെ മേധാവി സാം ആൾട്ട്മാനുമെതിരെ കേസ് നൽകിയിരിക്കുന്നത്. കൃത്യമായ മെഡിക്കൽ മേൽനോട്ടമില്ലാതെ ഇത്തരം മരുന്നുകൾ പെട്ടെന്ന് നിർത്തുന്നത് ജീവന് തന്നെ അപകടമാണെന്ന് ബോവെന്റെ ന്യൂറോളജിസ്റ്റ് ഡോ. നിക്കോളാസ് പൂലോസ് വ്യക്തമാക്കി.
ഈ സംഭവം നിർമ്മിത ബുദ്ധി (AI) സാങ്കേതികവിദ്യകളുടെ വികസനത്തിലും, ആരോഗ്യ മേഖലയിലെ അവയുടെ ഉപയോഗത്തിലും വലിയ ആശങ്കകളും ചർച്ചകളുമാണ് ലോകമെമ്പാടും ഉയർത്തിവിട്ടിരിക്കുന്നത്. എഐ നൽകുന്ന വിവരങ്ങൾ ഒരിക്കലും ഒരു ഡോക്ടറുടെ ഉപദേശത്തിന് പകരമാവില്ലെന്ന് ആരോഗ്യ വിദഗ്ദ്ധർ ആവർത്തിച്ച് മുന്നറിയിപ്പ് നൽകുന്നു.