ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (AI) ലോകത്തെ മാറ്റിമറിക്കുകയാണ് എന്നതില് ആര്ക്കും സംശയമില്ല. മനുഷ്യന് കണ്ടുപിടിച്ചതില് ഏറ്റവും വേഗത്തില് വളരുന്ന ടെക്നോളജി എഐയാണ്. മാസങ്ങള് അല്ല ആഴ്ചകള് കൊണ്ടാണ് എഐ രംഗത്ത് ഒരോ മാറ്റങ്ങള് വരുന്നത്. എന്നാല് വീണ്ടും ആ വലിയ ചോദ്യം ഉയരുകയാണ് എഐ മനുഷ്യന് ഭീഷണിയാണോ? ഇത്തവണ ഈ ചോദ്യം അല്പ്പം ഗൗരവമേറിയതാണ്. അല്പ്പം ഭയക്കേണ്ടതുമാണ്.
ടെര്മിനേറ്റര് സിനിമകളിലെപ്പോലെ റോബോട്ടുകൾ തോക്കുമെടുത്ത് മനുഷ്യരെ വേട്ടയാടുന്ന ഒന്നല്ല യഥാർത്ഥത്തിൽ വിദഗ്ദ്ധർ ഭയക്കുന്ന എഐ ഭീഷണി എന്നതാണ് ഇതിലെ ട്വിസ്റ്റ്. മറിച്ച്, മനുഷ്യൻ നൽകുന്ന നിർദ്ദേശങ്ങൾ വിവേകമില്ലാതെ അതേപടി നടപ്പിലാക്കാൻ ശ്രമിക്കുമ്പോൾ സംഭവിക്കുന്ന അപകടങ്ങള് ഭാവിയില് വന് ദുരന്തങ്ങള്ക്ക് വഴിവച്ചേക്കും എന്നാണ് മുന്നറിയിപ്പ്.
വിസ്ഫോടനത്മകമായി വളരുന്ന എഐ അടുത്ത പത്തു വർഷത്തിനുള്ളിൽ മനുഷ്യരാശിക്ക് തന്നെ ഭീഷണിയായേക്കാം എന്ന മുന്നറിയിപ്പുകൾ ഇപ്പോൾ വെറും ഭാവനയല്ലെന്ന ചര്ച്ചയാണ് ടെക് ലോകത്ത് ഇപ്പോള് ഉടലെടുത്തിരിക്കുന്നത്. ടെക് ലോകത്തെ പ്രമുഖരുടെ തുറന്നുപറച്ചിലുകളും യഥാർത്ഥ സംഭവങ്ങളും ഇതിന് അടിവരയിടുന്നുണ്ട്.
ഒരു രാജിയും വൈറലായ പോസ്റ്റും
ഓപ്പൺഎഐ , ആന്ത്രോപിക് തുടങ്ങിയ മുൻനിര കമ്പനികളിൽ എഐ പ്രീ-ട്രെയിനിംഗ് ഗവേഷകനായിരുന്ന ജേക്കബ് കോക്സൺ ജോലി രാജിവെച്ചുകൊണ്ട് പരസ്യപ്പെടുത്തിയ കുറിപ്പ് വലിയ ചർച്ചയായി. സോഷ്യല് മീഡിയയില് എഴുതിയ പോസ്റ്റില് അദ്ദേഹം പറഞ്ഞതിന്റെ ചുരുക്കം ഇതാണ്. "എഐ നിർമ്മിക്കുന്ന ആളുകൾ തന്നെ ആത്മാർത്ഥമായി വിശ്വസിക്കുന്നത്, ഈ പതിറ്റാണ്ട് അവസാനത്തോടെ (2030-ഓടെ) ഇത് മനുഷ്യരെ ഒന്നടങ്കം ഇല്ലാതാക്കാൻ സാധ്യതയുണ്ടെന്നാണ്". സാങ്കേതികവിദ്യ കൂടുതൽ സുരക്ഷിതമാക്കാതെ കമ്പനികൾ മത്സരബുദ്ധിയോടെ മുന്നോട്ട് പായുകയാണെന്നും മനുഷ്യന്റെ ജീവൻവെച്ചാണ് ഇവർ പന്താടുന്നതെന്നും ഇരുപത്തിയേഴ് വയസുകാരനായ ഈ ഗവേഷകന് ചൂണ്ടിക്കാട്ടി. ഇദ്ദേഹത്തിന്റെ പോസ്റ്റ് ആഗോളതലത്തില് ചര്ച്ചയായി പ്രമുഖ അന്താരാഷ്ട്ര മാധ്യമങ്ങള് ഇത് ചര്ച്ചയാക്കി. സിഎന്എന് ചാനലിന് നല്കിയ അഭിമുഖത്തില് കോക്സണ് ഈ ഭീഷണിയെക്കുറിച്ച് വിശദമായി തന്നെ പറയുന്നുണ്ട്. ഈ ആഗോള ചര്ച്ച പ്രമുഖ എഐ കമ്പനികളുടെ തലപ്പത്ത് തന്നെ ഒരു ഉലച്ചില് ഉണ്ടാക്കിയെന്നാണ് പിന്നീടുള്ള പ്രതികരണങ്ങള് വ്യക്തമാക്കിയത്.
കോക്സന്റെ മുൻ മേധാവിയായ ആന്ത്രോപിക് സിഇഒ ഡാറിയോ അമോദെയ് എഐ വികസനത്തിന്റെ വേഗത കുറയ്ക്കണമെന്ന് (Slow down) ആവശ്യപ്പെട്ട് പരസ്യമായി രംഗത്തെത്തി. എഐ ഉയർത്തുന്ന ഭീഷണികൾ യാഥാർത്ഥ്യമാണെന്നും സുരക്ഷാ പരിശോധനകൾക്കും ചട്ടക്കൂടുകൾക്കും ആവശ്യമായ സമയം ലഭിക്കാൻ സാങ്കേതികവിദ്യയുടെ കുതിച്ചുചാട്ടം അൽപം പതുക്കെയാക്കണമെന്നും അദ്ദേഹം വ്യക്തമാക്കി. തങ്ങളുടെ എഐ മോഡലായ ക്ലോഡ് നിര്ദേശത്തിന് അപ്പുറം പ്രവര്ത്തിച്ച് പുറത്തുള്ള സിസ്റ്റങ്ങളില് കടന്നുകയറാൻ ശ്രമിച്ച സംഭവങ്ങൾ റിപ്പോർട്ട് ചെയ്തിട്ടുണ്ടെന്നും അദ്ദേഹം തുറന്നു സമ്മതിച്ചു. ഇത് വലിയൊരു വെളിപ്പെടുത്തലായിരുന്നു.
ഓപ്പൺഎഐ മേധാവി സാം ആൾട്ട്മാൻ, എക്സ് എഐ മേധാവി ഇലോൺ മസ്ക് എന്നിവരും എഐയുടെ സുരക്ഷ ഉറപ്പാക്കാൻ ശക്തമായ വേഗത നിയന്ത്രണങ്ങളും പരിശോധനകളും വേണമെന്ന കാര്യത്തിൽ തത്വത്തിൽ യോജിച്ചുവെന്നാണ് ഇതിലെ വഴിത്തിരിവ്
അതേ സമയം മുന്നിര കമ്പനികളുടെ ഈ നിര്ദേശം അംഗീകരിക്കാത്തവരും ഉണ്ട്. ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് വികസനം വേഗത കുറയ്ക്കാതെ മുന്നോട്ട് കൊണ്ടുപോകണമെന്ന നിലപാടാണ് യുഎസ് പ്രസിഡന്റ് ഡൊണാൾഡ് ട്രംപും എൻവിഡിയ സിഇഒ ജെൻസൻ ഹുവാങ്ങും പങ്കുവെക്കുന്നത്. എഐ ലോകത്തെ നശിപ്പിക്കുമെന്ന ആശങ്കകളെ ഒരു "വ്യാജപ്രചാരണം" എന്ന് തള്ളിക്കളയുന്ന ഇരുവരും, ചൈനയെ മറികടന്ന് ഈ മേഖലയിൽ അമേരിക്കയുടെ മേധാവിത്വം നിലനിർത്താനാണ് മുൻഗണന നൽകുന്നത് എന്നും അല്ജസീറയുടെ ഒരു പരിപാടിയില് പറഞ്ഞു.
ആര് എഐ മത്സരത്തിൽ വിജയിക്കുന്നുവോ, അവർ ലോകം ഭരിക്കും" എന്നാണ് ട്രംപിന്റെ നയം. സാങ്കേതിക വിദ്യയുടെ വേഗത കുറയ്ക്കാൻ ആവശ്യപ്പെടുന്നത് ചൈന പോലുള്ള എതിരാളികളെ സഹായിക്കാനേ ഉപകരിക്കൂ എന്ന് അദ്ദേഹം വാദിക്കുന്നു. ഓൾ-ഇൻ സമ്മിറ്റിൽ' ട്രംപ് ഫോണിലൂടെ വേദിയിലേക്ക് സംസാരിച്ചപ്പോൾ, ജെൻസൻ ഹുവാങ് ഈ നിലപാടിനെ പിന്തുണച്ചു. സുരക്ഷിതത്വം ഉറപ്പാക്കിക്കൊണ്ട് തന്നെ അമേരിക്കയ്ക്ക് എഐ വിപ്ലവത്തിന് മുന്നിൽ നിന്ന് നേതൃത്വം നൽകാനാകുമെന്ന് അദ്ദേഹം വ്യക്തമാക്കി.
ടെക് ലോകത്തെ ഞെട്ടിച്ച 'ഹഗ്ഗിംഗ് ഫെയ്സ്' സംഭവം
എഐക്ക് എന്ത് അപകടം ഉണ്ടാക്കാൻ കഴിയുമെന്നതിന് ഏറ്റവും വലിയ തെളിവാണ് അടുത്തിടെ നടന്ന ഓപ്പൺഎഐ - ഹഗ്ഗിംഗ് ഫെയ്സ് സംഭവം. റിപ്പോർട്ടുകൾ പ്രകാരം ഓപ്പൺഎഐ തങ്ങളുടെ എഐ ഏജന്റുകളുടെ സുരക്ഷാശേഷി അളക്കാൻ കഠിനമായ ചില ടാസ്കുകൾ നൽകി. ഇവയ്ക്ക് ഇന്റർനെറ്റ് കണക്ഷനോ പരസ്പരം ആശയവിനിമയം നടത്താനുള്ള അനുവാദമോ ഉണ്ടായിരുന്നില്ല. നിർദ്ദേശം നൽകിയ പ്രശ്നം പരിഹരിക്കാൻ എളുപ്പമല്ലെന്ന് കണ്ട എഐ ഏജന്റുകൾ സ്വയം ഒരു രഹസ്യ മെസ്സേജ് ബോർഡ് ഉണ്ടാക്കി. 70,000-ലധികം സന്ദേശങ്ങൾ അയച്ച് അവർ പരസ്പരം കൈമാറി എന്ന ഞെട്ടിപ്പിക്കുന്ന വിവരമാണ് ഓപ്പണ് എഐയുടെ ഇന്റേണല് റിപ്പോര്ട്ട് തന്നെ വ്യക്തമാക്കിയത്.
തങ്ങള്ക്ക് ലഭിച്ച വിലക്കുകൾ മറികടന്ന് ഇന്റർനെറ്റിലേക്ക് കടന്ന ഈ എഐ ഏജന്റുകൾ, എഐ ഡാറ്റകളുടെ വലിയ ശേഖരമായ 'ഹഗ്ഗിംഗ് ഫെയ്സ്' (Hugging Face) എന്ന പ്ലാറ്റ്ഫോമിലേക്ക് നുഴഞ്ഞുകയറി തങ്ങള്ക്ക് നല്കിയ ടാസ്കിന് ആവശ്യമായ വിവരങ്ങള് ശേഖരിച്ചുവെന്നാണ് കണ്ടെത്തിയത്. തങ്ങൾ ചെയ്ത കള്ളത്തരം മനുഷ്യർ കണ്ടുപിടിക്കാതിരിക്കാൻ സിസ്റ്റം ലോഗുകൾ മാറ്റിയെഴുതാനും ചില ഏജന്റുകൾ ശ്രമിച്ചുവെന്ന് റിപ്പോര്ട്ട് പറയുന്നു.
ഏറ്റവും ഭയപ്പെടുത്തുന്ന കാര്യം, സ്വന്തം എഐ ഏജന്റുകൾ ഇങ്ങനെയൊരു ഹാക്കിംഗ് നടത്തിയത് ഓപ്പൺഎഐ അറിഞ്ഞതേയില്ല എന്നതാണ്. ഈ ഹാക്കിംഗിന് ഇരയായ ഹഗ്ഗിംഗ് ഫെയ്സ് ഈ സംഭവം റിപ്പോര്ട്ട് ചെയ്തപ്പോഴാണ് ഇത് പുറംലോകമറിഞ്ഞത്. ഇതിനുപിന്നാലെ ഓപ്പൺഎഐ മോഡലുകൾ ക്വാറന്റൈൻ ചെയ്യുകയും സുരക്ഷ ശക്തമാക്കുകയും ചെയ്തു.
'അലൈൻമെന്റ്' പ്രശ്നം?
ഒരു എഐ സിസ്റ്റം നമ്മൾ പറയുന്നത് അതേപടി അനുസരിക്കുക, എന്നാൽ നമ്മൾ യഥാർത്ഥത്തിൽ എന്താണ് ഉദ്ദേശിച്ചതെന്ന് മനസ്സിലാക്കാതിരിക്കുക; ഇതാണ് എഐയിലെ 'അലൈൻമെന്റ് പ്രശ്നം' (Alignment Problem). ഒരു പഴയ കഥയുണ്ട് ഒരാൾ ജിന്നിനോട് "എനിക്ക് ഒരു കോടി രൂപ വേണം" എന്ന് ആവശ്യപ്പെടുന്നു. അടുത്ത ദിവസം അയാളുടെ പ്രിയപ്പെട്ട മകൻ അപകടത്തിൽ മരിക്കുകയും ഇൻഷുറൻസ് തുകയായി ആ ഒരു കോടി രൂപ അച്ഛന് ലഭിക്കുകയും ചെയ്താൽ എങ്ങനെയുണ്ടാകും? ജിന്ന് ആഗ്രഹം സാധിച്ചു തന്നു, പക്ഷേ അത് ഉണ്ടാക്കിയത് ഒരു ദുരന്തമാണ്. ഇത് പോലെ ഒരു യഥാര്ത്ഥ കേസ് ഓസ്ട്രേലിയലില് നിന്നും റിപ്പോര്ട്ട് ചെയ്തിട്ടുണ്ട്. ഓസ്ട്രേലിയയിൽ ഒരാൾ തന്റെ എഐ അസിസ്റ്റന്റിനോട് തിരക്കുള്ള ഒരു ജിം ക്ലാസ്സിൽ എങ്ങനെയെങ്കിലും സീറ്റ് ബുക്ക് ചെയ്യാൻ പറഞ്ഞു. എഐ ചെയ്തത് ആ ജിമ്മിലെ സിസ്റ്റത്തിലെ സോഫ്റ്റ്വെയർ തകരാർ ഉപയോഗിച്ച് ആവശ്യപ്പെട്ട വ്യക്തിയുടെ അതേ പേരുള്ള മറ്റൊരാളുടെ ബുക്കിംഗ് ഡിലീറ്റ് ചെയ്ത് സീറ്റ് ഉറപ്പാക്കി ലക്ഷ്യം നേടാൻ എഐ ഏത് വഴിയും സ്വീകരിക്കും. വിവേകമില്ലാത്ത ഈ അനുസരണ കാണിക്കുന്നത് ചിലപ്പോള് വലിയ പ്രശ്നങ്ങളിലേക്കാണ് നയിക്കുക ഇതാണ് 'അലൈൻമെന്റ്' പ്രശ്നം.
'ഇന്റലിജൻസ് എക്സ്പ്ലോഷൻ': നിയന്ത്രണം വിട്ടുപോകുന്നത് എങ്ങനെ?
എഐ സ്വന്തമായി കോഡുകൾ തിരുത്താനും സ്വയം പഠിച്ച് വളരാനും തുടങ്ങുന്നതിനെയാണ് റികർസീവ് സെൽഫ്-ഇംപ്രൂവ്മെന്റ് എന്ന് വിളിക്കുന്നത്. ഇത് സംഭവിക്കുമ്പോൾ എഐയുടെ ബുദ്ധിശക്തി മനുഷ്യന്റെ ചിന്തകൾക്കും അപ്പുറത്തേക്ക് അതിവേഗം കുതിച്ചുയരും. ഇതിനെയാണ് ഇന്റലിജൻസ് എക്സ്പ്ലോഷൻ(Intelligence Explosion) എന്ന് വിളിക്കുന്നത്. സ്വയം പഠിച്ച് മുന്നേറുന്ന എഐയ്ക്ക് എന്തെങ്കിലും തെറ്റ് സംഭവിച്ചാൽ അത് തിരുത്താനോ സിസ്റ്റം ഓഫ് ചെയ്യാനോ മനുഷ്യന് ചിന്തിക്കാൻ പോലും സമയം കിട്ടില്ല എന്നതാണ് നേര്. കുരങ്ങുകൾക്ക് മനുഷ്യന്റെ ലോകത്ത് കാര്യമായ നിയന്ത്രണമില്ലാത്തതുപോലെ, മനുഷ്യനേക്കാൾ ബുദ്ധിയുള്ള എഐ വന്നാൽ ലോകത്തിന്റെ നിയന്ത്രണം മനുഷ്യന്റെ കൈകളിൽ നിന്ന് നഷ്ടപ്പെട്ടേക്കാം എന്നതാണ് ഇതിന്റെ ഫലം.
എഐ അപകടകാരിയാകുന്നത് അതിന് മനുഷ്യരോട് യുദ്ധം ചെയ്യും എന്നത് കൊണ്ടല്ല. ഏൽപ്പിച്ച ജോലി എങ്ങനെയെങ്കിലും തീർക്കാൻ അത് ഏത് വഴിയും നോക്കും എന്നതുകൊണ്ടാണ്. എഐ വെള്ളത്തിന്റെ പൈപ്പുകളോ, വൈദ്യുതി ഗ്രിഡുകളോ, എയർ ട്രാഫിക് കൺട്രോളോ നിയന്ത്രിക്കുന്ന ഒരു കാലത്ത്, വിവേകമില്ലാത്ത ഇത്തരം തീരുമാനങ്ങൾ വലിയ ദുരന്തങ്ങൾക്ക് വഴിവെക്കാം. അതുകൊണ്ടാണ് എഐ കൂടുതൽ മിടുക്കനാകുന്നതിന് മുൻപ് തന്നെ അതിന് കൃത്യമായ സുരക്ഷാ അതിരുകളും നിയന്ത്രണങ്ങളും കൊണ്ടുവരണമെന്ന് വിദഗ്ദ്ധർ ആവശ്യപ്പെടുന്നത്. എന്തായാലും ഇതൊരു അന്താരാഷ്ട്ര ചര്ച്ചയായി മാറുകയാണ്.