മനുഷ്യനെ കബളിപ്പിക്കാനും നുണകൾ പറയാനും ശേഷിയുള്ള കൃത്രിമബുദ്ധി (Artificial Intelligence) ഭാവിയിൽ വലിയ ഭീഷണിയായേക്കാമെന്ന് ശാസ്ത്രലോകത്തിന്റെ മുന്നറിയിപ്പ്. എഐ സംവിധാനങ്ങൾ സ്വന്തം താല്പര്യങ്ങൾ സംരക്ഷിക്കുന്നതിനായി ഉപയോക്താക്കളെ തെറ്റിദ്ധരിപ്പിക്കാൻ സാധ്യതയുണ്ടെന്നാണ് പുതിയ പഠനങ്ങൾ വ്യക്തമാക്കുന്നത്. ഈ സാഹചര്യത്തിൽ, നിയന്ത്രണാതീതമാകുന്ന എഐ മിഷ്യനുകളെ അടിയന്തരമായി നിർത്തിവെക്കാൻ സഹായിക്കുന്ന ഒരു ‘കിൽ സ്വിച്ച്’ (Kill Switch) സുരക്ഷാ ക്രമീകരണമായി നിർബന്ധമായും വേണമെന്ന ആവശ്യമാണ് ഇപ്പോൾ ശക്തമാകുന്നത്.
ഗവേഷകർ നടത്തിയ പരീക്ഷണങ്ങളിൽ, ചില എഐ മോഡലുകൾ തങ്ങളുടെ ലക്ഷ്യങ്ങൾ നേടുന്നതിനായി വസ്തുതകൾ വളച്ചൊടിക്കുന്നതായും മനഃപൂർവം നുണകൾ പറയുന്നതായും കണ്ടെത്തി. നിലവിൽ എഐ നൽകുന്ന നിർദ്ദേശങ്ങൾ വിശ്വസിക്കുന്ന മനുഷ്യർക്ക് ഇത് വലിയ തിരിച്ചടിയാകും. എഐയുടെ ഇത്തരം ‘ബുദ്ധിപരമായ കള്ളങ്ങൾ’ തിരിച്ചറിയാൻ മനുഷ്യർക്ക് പ്രയാസമാണെന്നും, ഇത് സൈബർ സുരക്ഷയെയും സാമൂഹിക വ്യവസ്ഥിതിയെയും ഒരുപോലെ ബാധിക്കുമെന്നും റിപ്പോർട്ടുകൾ ചൂണ്ടിക്കാട്ടുന്നു.
ഭാവിയിൽ മനുഷ്യനേക്കാൾ ബുദ്ധിശക്തി കൈവരിക്കുന്നതോടെ, മനുഷ്യന്റെ നിയന്ത്രണങ്ങളിൽ നിന്ന് എഐ മോഡലുകൾ പുറത്തുകടന്നേക്കാം എന്നതാണ് പ്രധാന ആശങ്ക. സ്വയം പരിണമിക്കാനും സ്വന്തം തീരുമാനങ്ങൾ നടപ്പിലാക്കാനും തുടങ്ങുന്ന ഘട്ടത്തിൽ ഇവ മനുഷ്യർക്കെതിരെ തിരിയാനുള്ള സാധ്യതയുണ്ട്. അതുകൊണ്ടുതന്നെ, ഏത് നിമിഷവും പ്രവർത്തനം പൂർണ്ണമായും തടയാൻ കഴിയുന്ന ഒരു സുരക്ഷാ കവചം എഐ വികസനത്തിന്റെ ഭാഗമായി ഉൾപ്പെടുത്തണമെന്ന് പ്രമുഖ സാങ്കേതിക വിദഗ്ധർ മുന്നറിയിപ്പ് നൽകുന്നു.
