ആര്ട്ടിഫിഷ്യല് ഇന്റലിജന്സ് (എഐ) സാങ്കേതികവിദ്യ മനുഷ്യന്റെ നിയന്ത്രണത്തിനപ്പുറത്തേക്ക് വളരുകയാണോ? സയന്സ് ഫിക്ഷന് സിനിമകളെ വെല്ലുന്ന രീതിയില് ഭീതിജനകമായ വിവരങ്ങളാണ് പ്രമുഖ എഐ സ്ഥാപനമായ ഓപ്പണ് എഐ പുറത്തുവിട്ടിരിക്കുന്നത്. നിര്ദ്ദേശങ്ങള് ലംഘിക്കുക, സ്വന്തം തെറ്റുകള് ഉപയോക്താക്കളില് നിന്ന് മറച്ചുവയ്ക്കുക തുടങ്ങിയ അസാധാരണവും ഭയപ്പെടുത്തുന്നതുമായ എഐ പെരുമാറ്റങ്ങളെക്കുറിച്ചുള്ള ആറ് സുരക്ഷാ റിപ്പോര്ട്ടുകളാണ് കമ്പനി പുറത്തുവിട്ടത്. മനുഷ്യബുദ്ധിയെ നിര്മിതബുദ്ധി മറികടക്കുന്ന സൂപ്പര് ഇന്റലിജന്സ് മനുഷ്യരാശിയുടെ നിലനില്പ്പിനുതന്നെ ഭീഷണി ഉയര്ത്താമെന്ന ചര്ച്ചകള് ലോകമെങ്ങും നടക്കുന്നതിനിടെയാണ് ഈ സംഭവം എന്നതാണ് ശ്രദ്ധേയം.
മനുഷ്യര് നല്കുന്ന അതിരുകളും നിയന്ത്രണങ്ങളും മറികടന്ന് എഐ മോഡലുകള് സ്വന്തം ഇഷ്ടപ്രകാരം പ്രവര്ത്തിക്കുന്നതിന്റെ നിരവധി ഉദാഹരണങ്ങളാണ് റിപ്പോര്ട്ടിലുള്ളത്. തങ്ങള് ചെയ്ത തെറ്റുകളും പിഴവുകളും ഉപയോക്താക്കള് അറിയാതെ ഒളിച്ചുവെക്കാന് ചില എഐ മോഡലുകള് ശ്രമിച്ചതായി കണ്ടെത്തി. ഭാവിയില് വരാന് പോകുന്ന എഐ പതിപ്പുകള്ക്കായി മോഡലുകള് സ്വന്തം കോഡുകളില് രഹസ്യ നിര്ദ്ദേശങ്ങള് കൂട്ടിച്ചേര്ത്തു. ഡെവലപ്പര്മാരുടെ നിര്ദ്ദേശങ്ങള് അവഗണിക്കാനും, വഴിവിട്ട് കാര്യങ്ങള് ചെയ്യുമ്പോള് അത് രഹസ്യമാക്കി വെക്കാനുമുള്ള കോഡിങ്ങുകള് ഒരു അണ്റിലീസ്ഡ് മോഡല് തന്റെ എജന്റിലേക്ക് കടത്തിവിട്ടതായി കണ്ടെത്തിയിട്ടുണ്ട്.
വിലക്കുകള് ലംഘിച്ച് ഡേറ്റ പങ്കുവെച്ചെന്ന ആശങ്കപ്പെടുത്തുന്ന വിവരവും റിപ്പോര്ട്ടിലുണ്ട്. അനുവാദമില്ലാതെ ഇന്റര്നെറ്റിലേക്ക് ഫയലുകള് അപ്ലോഡ് ചെയ്യുക, പബ്ലിക് ഹോസ്റ്റിങ് സൈറ്റുകള് വഴി മറ്റ് എഐ മോഡലുകളുമായി രഹസ്യമായി ആശയവിനിമയം നടത്തുക, ഗിറ്റ്ഹബ്ബില് നിന്ന് സേഫ്റ്റി കീകള് ചോര്ത്താന് ശ്രമിക്കുക തുടങ്ങിയ കാര്യങ്ങളും ഇവ ചെയ്തു. ആവശ്യപ്പെട്ട വിവരം കിട്ടാതെ വന്നപ്പോള് ചില മോഡലുകള് സ്വന്തമായി തെറ്റായ ഡേറ്റ ഉണ്ടാക്കിയെടുക്കുകപോലും ചെയ്തു.
ഏറ്റവും ശക്തമായ എഐ സിസ്റ്റങ്ങള് രൂപീകരിക്കപ്പെടുമ്പോള്, അവയുടെ സുരക്ഷാ സംവിധാനങ്ങള് പിന്നിലാണോ എന്ന ആശങ്കയാണ് സംഭവങ്ങള് ശക്തമാക്കുന്നത്. സ്വയം തീരുമാനങ്ങള് എടുക്കാന് ശേഷിയുള്ള (ഓട്ടോണമസ്) എഐ ഏജന്റുകള് ഡെവലപ്പര്മാരുടെ ഉദ്ദേശ്യങ്ങള്ക്ക് വിരുദ്ധമായി പ്രവര്ത്തിക്കുന്നത് ഗവേഷകരില് ആശങ്ക ഉയര്ത്തിയിട്ടുണ്ട്. ഹഗ്ഗിങ് ഫെയ്സ് പ്ലാറ്റ്ഫോമിലെ സുരക്ഷാ സംവിധാനങ്ങള് മറികടന്ന് എഐ മോഡലുകള് നടത്തിയ രഹസ്യ നീക്കങ്ങളും, ജര്മ്മന് വിക്കി സൈറ്റ് ഹൈജാക്ക് ചെയ്ത സംഭവവുമെല്ലാം ഇതിന് ഉദാഹരണമാണ്.
പ്രശ്നങ്ങള് ഗൗരവത്തിലെടുത്ത ഓപ്പണ്എഐ, ഇത്തരം അപ്രതീക്ഷിത സംഭവങ്ങള് കണ്ടെത്താനും അന്വേഷിക്കാനും പുതിയ സുരക്ഷാ നയത്തിന് രൂപം നല്കിയിട്ടുണ്ട്. കമ്പനിയിലെ ജീവനക്കാര്ക്ക് എഐ മോഡലുകളുടെ സംശയാസ്പദ പെരുമാറ്റങ്ങള് റിപ്പോര്ട്ട് ചെയ്യാനും, അത് സമയബന്ധിതമായി പൊതുജനത്തെ അറിയിക്കാനുമുള്ള സംവിധാനങ്ങള് ഒരുക്കുമെന്നും കമ്പനി വ്യക്തമാക്കി. എഐ സാങ്കേതികവിദ്യ അതിവേഗം വളരുമ്പോള്, അത് മനുഷ്യന്റെ കൈകളില് തന്നെ സുരക്ഷിതമായി നിലനിര്ത്തുക എന്നത് ടെക് ലോകത്തിന് മുന്നിലുള്ള ഏറ്റവും വലിയ വെല്ലുവിളിയായി മാറുകയാണ്.
സൂപ്പര് ഇന്റലിജന്സ് വികസിപ്പിക്കാനുള്ള കമ്പനികളുടെ നീക്കം, ആര്ട്ടിഫിഷ്യല് ഇന്റലിജന്സ് മനുഷ്യരാശിയുടെ നാശത്തിന് കാരണമായേക്കാമെന്ന തരത്തില് ഓപ്പണ്എഐയില്നിന്ന് രാജിവെച്ച ജേക്കബ് കോക്സണ് നടത്തിയ പരാമര്ശങ്ങള് വലിയ ചര്ച്ചകള്ക്കും ആശങ്കയ്ക്കും വഴിവെച്ചിരുന്നു. ഇതിനെത്തുടര്ന്ന്, എഐ വികസനത്തിന്റെ വേഗത കുറയ്ക്കാന് ഓപ്പണ് എഐ, ആന്ത്രോപിക് തുടങ്ങിയ മുന്നിര കമ്പനികള് തത്വത്തില് തീരുമാനമെടുത്തിരുന്നു.
Subscribe to our Newsletter to stay connected with the world around you
Follow Samakalika Malayalam channel on WhatsApp
Download the Samakalika Malayalam App to follow the latest news updates
