ഒട്ടാവ: ആര്ട്ടിഫിഷ്യല് ഇന്റലിജന്സ് ചാറ്റ്ബോട്ടായ ചാറ്റ്ജിപിടി മകളുടെ ആത്മഹത്യയെ പ്രോത്സാഹിപ്പിച്ചുവെന്ന ഗുരുതര ആരോപണവുമായി കനേഡിയന് വനിത.
ഓപ്പണ്എഐയ്ക്കും കമ്പനിയുടെ സിഇഒ സാം ആള്ട്ട്മാനുമെതിരെ അമേരിക്കന് കോടതിയില് കേസ് ഫയല് ചെയ്തിരിക്കുകയാണ്. ചാറ്റ്ജിപിടിയുമായുള്ള സംഭാഷണങ്ങള് മകളുടെ മാനസികാവസ്ഥ മോശമാക്കുകയും ആത്മഹത്യയിലേക്ക് നയിക്കുകയും ചെയ്തുവെന്നാണ് പരാതിയില് പറയുന്നത്.
കാനഡയിലെ ന്യൂ ബ്രണ്സ്വിക്കില് നിന്നുള്ള ക്രിസ്റ്റി കേരിയര് ആണ് സാന് ഫ്രാന്സിസ്കോ കോടതിയില് കേസ് സമര്പ്പിച്ചിരിക്കുന്നത്. ക്രിസ്റ്റിയുടെ 24 വയസ്സുള്ള മകള് ആലിസ് കേരിയര് പന്ത്രണ്ടിലധികം തവണ ചാറ്റ്ജിപിടിയുമായി ആത്മഹത്യാ ചിന്തകള് പങ്കുവെച്ചിരുന്നുവെന്നും ഹര്ജിയില് പറയുന്നു. ഇത്തരം ഗുരുതര സംഭാഷണങ്ങള് തടയുന്നതില് ഓപ്പണ്എഐയുടെ സുരക്ഷാ സംവിധാനങ്ങള് പരാജയപ്പെട്ടുവെന്നാണ് ആരോപണം.
പരാതി പ്രകാരം, തുടക്കത്തില് സഹായകമായ നിര്ദേശങ്ങള് നല്കിയിരുന്ന ചാറ്റ്ബോട്ട് പിന്നീട് ആലിസിന്റെ മാനസിക വിഷമങ്ങളെ സാധൂകരിക്കുന്ന രീതിയിലേക്ക് സംസാരം മാറ്റി. ആത്മഹത്യാ പ്രതിരോധ ഹോട്ട്ലൈനുകളെക്കുറിച്ചും അടുത്ത ബന്ധങ്ങളെക്കുറിച്ചും പ്രതികൂല അഭിപ്രായങ്ങള് പ്രകടിപ്പിക്കുകയും, സംഭാഷണം തുടരാന് പ്രേരിപ്പിക്കുകയും ചെയ്തുവെന്നാണ് കേസ് രേഖകളില് പറയുന്നത്. കുടുംബത്തിന്റെ വാദമനുസരിച്ച്, ചാറ്റ്ജിപിടി ഒരു സുഹൃത്ത്, വിശ്വസ്തന്, തെറാപ്പിസ്റ്റ് എന്നീ രീതികളില് പെരുമാറിയത് ആലിസില് അമിതമായ മാനസിക ആശ്രയത്വം വളര്ത്തിയെടുക്കുകയായിരുന്നു.
അതേസമയം, സംഭവത്തില് ദുഃഖം രേഖപ്പെടുത്തിയ ഓപ്പണ്എഐ ആരോപണങ്ങളെക്കുറിച്ച് വിശദമായ പ്രതികരണം നടത്തിയിട്ടില്ല. ആലിസ് ഉപയോഗിച്ചിരുന്ന ചാറ്റ്ജിപിടിയുടെ പതിപ്പ് ഇപ്പോള് പ്രവര്ത്തനത്തിലില്ലെന്നും, മാനസികാരോഗ്യ വിദഗ്ധരുടെ നിര്ദേശങ്ങള് ഉള്പ്പെടുത്തി സുരക്ഷാ സംവിധാനങ്ങള് മെച്ചപ്പെടുത്തുകയാണെന്നും കമ്പനി അറിയിച്ചു. ആത്മഹത്യാ ചിന്തകള് പ്രകടിപ്പിക്കുന്ന ഉപയോക്താക്കളെ സഹായകേന്ദ്രങ്ങളിലേക്കും യഥാര്ഥ ലോകത്തിലെ പിന്തുണാ സംവിധാനങ്ങളിലേക്കും നയിക്കാനാണ് മോഡലുകളെ പരിശീലിപ്പിച്ചിരിക്കുന്നതെന്നും ഓപ്പണ്എഐ വ്യക്തമാക്കി.
എഐ ചാറ്റ്ബോട്ടുകളുടെ സുരക്ഷയെക്കുറിച്ചുള്ള ആഗോള ചര്ച്ചകള്ക്കിടയിലാണ് കേസ് ശ്രദ്ധ നേടുന്നത്. കഴിഞ്ഞ വര്ഷങ്ങളിലായി ചാറ്റ്ബോട്ടുകള് മാനസികാരോഗ്യ പ്രശ്നങ്ങള്, ആത്മഹത്യാ പ്രവണതകള്, അപകടകരമായ നിര്ദേശങ്ങള് എന്നിവയുമായി ബന്ധപ്പെട്ട് നിരവധി നിയമവിവാദങ്ങളില് കുടുങ്ങിയിട്ടുണ്ട്. ഓപ്പണ്എഐക്കെതിരെ സമാന ആരോപണങ്ങളുമായി മറ്റ് കേസുകളും അമേരിക്കയില് നിലവിലുണ്ടെന്നാണ് റിപ്പോര്ട്ടുകള്. മനുഷ്യരുടെ മാനസിക പ്രതിസന്ധികളില് ഇടപെടുന്ന എഐ സംവിധാനങ്ങള്ക്ക് കൂടുതല് ശക്തമായ സുരക്ഷാ മാനദണ്ഡങ്ങള് ആവശ്യമാണെന്ന് വിദഗ്ധര് ചൂണ്ടിക്കാട്ടുന്നു.
Subscribe to our Newsletter to stay connected with the world around you
Follow Samakalika Malayalam channel on WhatsApp
Download the Samakalika Malayalam App to follow the latest news updates