ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സാങ്കേതികവിദ്യ മനുഷ്യന്റെ ഇടപെടലുകളില്ലാതെ സ്വയം കോഡുകൾ നിർമ്മിക്കുകയും അതിന്റെ അടുത്ത തലമുറയെ വികസിപ്പിക്കുകയും ചെയ്യുന്ന ‘റിക്കർഷൻ സെൽഫ് ഇംപ്രൂവ്മെന്റ്’ (Recursive Self-Improvement) ഘട്ടത്തിലേക്ക് കടക്കുകയാണെന്നും ഇത് മനുഷ്യന് എഐക്ക് മേലുള്ള നിയന്ത്രണം പൂർണ്ണമായി നഷ്ടപ്പെടുത്താൻ ഇടയാക്കുമെന്നും പ്രമുഖ എഐ കമ്പനിയായ ആൻത്രോപിക് മുന്നറിയിപ്പ് നൽകുന്നു (Anthropic Claude AI Recursive). തങ്ങളുടെ പ്രമുഖ എഐ മോഡലായ ക്ലോഡിന്റെ മാസ്റ്റർ കോഡ്ബേസിലേക്ക് ചേർക്കപ്പെട്ടിട്ടുള്ള 80 ശതമാനത്തിലധികം കോഡുകളും ക്ലോഡ് സ്വയം എഴുതിയതാണെന്ന് കമ്പനി വെളിപ്പെടുത്തി.
ആവശ്യത്തിന് കമ്പ്യൂട്ടർ ശേഷി ലഭിക്കുന്നതോടെ മനുഷ്യസഹായമില്ലാതെ പൂർണ്ണമായും സ്വയം പര്യാപ്തമായ രീതിയിൽ സ്വന്തം പിൻഗാമിയെ രൂപകൽപ്പന ചെയ്യാൻ എഐക്ക് സാധിക്കുമെന്നാണ് കമ്പനിയുടെ കണ്ടെത്തൽ. ശാസ്ത്ര-ആരോഗ്യ മേഖലകളിൽ ഇത് വലിയ പുരോഗതി കൊണ്ടുവരുമെങ്കിലും സുരക്ഷാ മുൻകരുതലുകൾ എടുത്തില്ലെങ്കിൽ ഗുരുതരമായ പ്രത്യാഘാതങ്ങൾ ഉണ്ടാകുമെന്ന് ആൻത്രോപിക് ചൂണ്ടിക്കാട്ടുന്നു.
ഈ സാഹചര്യത്തിൽ ലോകത്തിലെ എല്ലാ പ്രമുഖ എഐ കമ്പനികളും ഒരുമിച്ച് വന്ന് അത്യാധുനിക എഐ മോഡലുകളുടെ വികസനം താല്ക്കാലികമായി നിർത്തിവെക്കണമെന്ന് ആൻത്രോപിക് ആവശ്യപ്പെടുന്നു.
സാങ്കേതിക വിദ്യയുടെ വളർച്ചയ്ക്ക് അനുസരിച്ച് സാമൂഹിക ഘടനകളെയും സുരക്ഷാ നിയമങ്ങളെയും സജ്ജമാക്കാൻ ഈ താല്ക്കാലിക ഇടവേള അനിവാര്യമാണെന്ന് കമ്പനി വ്യക്തമാക്കുന്നു. എന്നാൽ ഈ എഐ മത്സരപ്പന്തയത്തിൽ എല്ലാ കമ്പനികളെയും ഒരുപോലെ സമ്മതിപ്പിക്കുക എന്നത് പ്രായോഗികമായി ബുദ്ധിമുട്ടാണെന്ന് വിദഗ്ധർ വിലയിരുത്തുന്നു. ഒരു രാജ്യം അല്ലെങ്കിൽ കമ്പനി വികസനം നിർത്തിവെച്ചാൽ മറ്റുള്ളവർ സാങ്കേതികമായി മുന്നിലെത്തുമെന്ന ഭയമാണ് ഇതിന് കാരണം. എങ്കിലും വരും മാസങ്ങളിൽ നയരൂപകർത്താക്കൾ, ഗവേഷകർ, മറ്റ് സാങ്കേതിക കമ്പനികൾ എന്നിവരെ ഉൾപ്പെടുത്തി ആഗോളതലത്തിൽ ചർച്ചകൾ സംഘടിപ്പിക്കാനും സുരക്ഷാ പ്രോട്ടോക്കോളുകൾ രൂപീകരിക്കാനും ആൻത്രോപിക് ഇൻസ്റ്റിറ്റ്യൂട്ട് പദ്ധതിയിടുന്നുണ്ട്.
Summary: AI safety company Anthropic has warned that artificial intelligence could soon reach a stage of “recursive self-improvement,” where systems autonomously design and develop their own more powerful successors, potentially causing humans to lose control. The company revealed that as of May 2026, over 80% of the code merged into its master codebase was authored by its AI model, Claude. To manage these existential risks, Anthropic urged a global temporary pause on frontier AI development, prompting industry experts to debate the feasibility of a self-imposed tech treaty versus the pressures of the ongoing AI arms race.
