Suicide Planning Allegation: ആത്മഹത്യയും സംസ്കാര ചടങ്ങുകളും തയ്യാറാക്കി 13-കാരി; പദ്ധതിക്ക് പിന്നിൽ AI? AI SEARCH വിവാദത്തിൽ Google!

AI സൗകര്യങ്ങൾ കുട്ടികളുടെ സുരക്ഷയ്ക്ക് ഭീഷണിയാകുന്നുവോ? ടെക് ഭീമനായ ഗൂഗിളിനെതിരെ ഗുരുതര ആരോപണവുമായി അമേരിക്കയിൽ ഒരു കുടുംബം കോടതിയെ സമീപിച്ചിരിക്കുകയാണ്. സ്കൂൾ ആവശ്യങ്ങൾക്കായി നൽകിയ ലാപ്ടോപ്പിലെ എഐ സംവിധാനങ്ങൾ ഉപയോഗിച്ച് 13-കാരിയായ വിദ്യാർഥിനി സ്വന്തം ആത്മഹത്യയ്ക്കും സംസ്കാര ചടങ്ങുകൾക്കുമായി പദ്ധതികൾ തയ്യാറാക്കിയെന്നാണ് മാതാപിതാക്കളുടെ പരാതി.

കാലിഫോർണിയ കോടതിയിലാണ് ഗൂഗിളിനെതിരെ കേസ് ഫയൽ ചെയ്തിരിക്കുന്നത്. ഗൂഗിൾ ക്രോംബുക്കുകളിൽ ഉൾപ്പെടുത്തിയിട്ടുള്ള എഐ ഫീച്ചറുകൾ കുട്ടികളുടെ സുരക്ഷയ്ക്ക് ഭീഷണിയാകുന്നുവെന്ന് ആരോപിച്ച് ഫയൽ ചെയ്യുന്ന ആദ്യ കേസുകളിലൊന്നാണിത്.

പഠനാവശ്യത്തിനായി സ്കൂൾ നൽകിയ ലാപ്ടോപ്പിൽ ഗൂഗിളിന്റെ ജെമിനി, ഓപ്പൺഎഐയുടെ ചാറ്റ്ജിപിറ്റി തുടങ്ങിയ എഐ ആപ്പുകൾ സ്കൂൾ അധികൃതർ ബ്ലോക്ക് ചെയ്തിരുന്നു. എന്നാൽ ഗൂഗിൾ സെർച്ചിനൊപ്പം ലഭ്യമായിരുന്ന എഐ ടൂളുകൾ ഉപയോഗിച്ച് വിദ്യാർഥിനി ആവശ്യമായ വിവരങ്ങൾ ശേഖരിച്ചെന്നാണ് ഹർജിയിലെ ആരോപണം.

കുട്ടികൾക്കായുള്ള സെർച്ച് സുരക്ഷാ ക്രമീകരണങ്ങൾ ശക്തമാക്കുമെന്ന് കഴിഞ്ഞ ആഴ്ച ഗൂഗിൾ പ്രഖ്യാപിച്ചിരുന്നു. എന്നാൽ എഐ സെർച്ച് ഫീച്ചറുകൾ ഈ നിയന്ത്രണങ്ങളിൽ ഉൾപ്പെടുത്തിയിരുന്നില്ലെന്നാണ് കുടുംബത്തിന്റെ പ്രധാന ആരോപണം.

നോർത്ത് കരോലിന സ്വദേശിയായ വിദ്യാർഥിനി പഠനത്തിലും സംഗീതത്തിലും മറ്റ് പാഠ്യേതര പ്രവർത്തനങ്ങളിലും മികവ് പുലർത്തിയിരുന്നുവെന്നും മുൻപ് മാനസികാരോഗ്യ പ്രശ്നങ്ങളൊന്നും ഉണ്ടായിരുന്നില്ലെന്നും മാതാപിതാക്കൾ പറയുന്നു. എന്നാൽ കമ്പ്യൂട്ടറിലെ എഐ സെർച്ച് ഉപയോഗം തുടങ്ങിയതോടെ കുട്ടിയുടെ മാനസികാവസ്ഥയിൽ വലിയ മാറ്റമുണ്ടായെന്നും ഹർജിയിൽ ചൂണ്ടിക്കാട്ടുന്നു.

മാർച്ച് 17-നാണ് സംഭവത്തിന്റെ ഗൗരവം പുറത്തറിയുന്നത്. സ്കൂളിലെ കമ്പ്യൂട്ടർ നിരീക്ഷണ സോഫ്റ്റ്‌വെയർ കുട്ടിയുടെ ഫയലുകളിൽ 'ഫ്യൂണറൽ' എന്ന പേരിലുള്ള ഡോക്യുമെന്റ് കണ്ടെത്തി മാതാപിതാക്കളെ വിവരമറിയിക്കുകയായിരുന്നു. തുടർന്ന് അക്കൗണ്ട് പരിശോധിച്ച അമ്മ മകൾ വിടവാങ്ങൽ കുറിപ്പ് തയ്യാറാക്കുന്നത് ശ്രദ്ധയിൽപ്പെടുത്തി. പിതാവ് ഉടൻ ഇടപെട്ടതോടെ വലിയൊരു ദുരന്തം ഒഴിവാക്കാനായെന്നാണ് കുടുംബത്തിന്റെ വിശദീകരണം.

അതേസമയം, സംഭവം ഗൗരവത്തോടെയാണ് കാണുന്നതെന്നും വിശദമായി പരിശോധിച്ചു വരികയാണെന്നും ഗൂഗിൾ വക്താവ് ജോസ് കാസ്റ്റനിഡ പ്രതികരിച്ചു. സ്വയം ഉപദ്രവിക്കാനുള്ള തിരച്ചിലുകൾ തടയാൻ എഐ മോഡിൽ ശക്തമായ സുരക്ഷാ സംവിധാനങ്ങളുണ്ടെന്നാണ് കമ്പനിയുടെ വിശദീകരണം. എന്നാൽ ഈ നിയന്ത്രണങ്ങൾ എളുപ്പത്തിൽ മറികടക്കാൻ കുട്ടിക്ക് കഴിഞ്ഞുവെന്നും സുരക്ഷാ സംവിധാനങ്ങൾ പര്യാപ്തമല്ലെന്നും കുടുംബത്തിന്റെ അഭിഭാഷകൻ ആരോപിക്കുന്നു.

ഇതിനിടെ, ചാറ്റ്ജിപിറ്റിന്റെ നിർദ്ദേശങ്ങൾ ആത്മഹത്യയിലേക്ക് നയിച്ചെന്ന ആരോപണവുമായി 16-കാരന്റെ കുടുംബം ഉൾപ്പെടെ നിരവധി പേർ ഓപ്പൺഎഐക്കെതിരെയും കോടതിയെ സമീപിച്ചിട്ടുണ്ട്. കുട്ടികളുടെ ഡിജിറ്റൽ സുരക്ഷയും എഐ കമ്പനികളുടെ ഉത്തരവാദിത്തവും വീണ്ടും വലിയ ചർച്ചയാകുകയാണ് ഈ സംഭവത്തോടെ