AI လုံျခဳံေရးသုေတသီက လျှို့ဝှက်သတိပေးချက်တစ်ခုဖြင့် နုတ်ထွက်လိုက်သည်

(SeaPRwire) –   “ကမ္ဘာကြီးသည် အန္တရာယ်ကျရောက်နေပါသည်” ဟု Anthropic ၏ Safeguards Research Team ခေါင်းဆောင်က သူ၏နုတ်ထွက်စာတွင် ရေးသားခဲ့သည်

AI လုံခြုံရေး သုတေသီအကြီးအကဲတစ်ဦးဖြစ်သူ Mrinank Sharma သည် Anthropic မှ ကမ္ဘာလုံးဆိုင်ရာ “အပြန်အလှန်ဆက်နွယ်နေသော အကျပ်အတည်းများ” အကြောင်း ခပ်ရှင်းရှင်းမေးခွန်းထုတ်ဖွယ် သတိပေးချက်ဖြင့် နုတ်ထွက်ခဲ့ပြီး သူ့အနေဖြင့် “အချိန်အတိုင်းအတာတစ်ခုအထိ မမြင်ရအောင် နေထိုင်မည်” ဟု ကြေညာခဲ့သည်။

Claude ချတ်ဘော့ထုတ်လုပ်သူ Anthropic ၏ Safeguards Research Team ကို ဦးဆောင်ခဲ့သော Oxford ဘွဲ့ရ Sharma သည် တနင်္လာနေ့က X တွင် သူ၏နုတ်ထွက်စာကို တင်ခဲ့ပြီး “ကျွန်ုပ်တို့၏ အခြေအနေ” နှင့် ပတ်သက်၍ တစ်စတစ်စ ပိုမိုနက်ရှိုင်းလာသော ကိုယ်တိုင် ဆင်ခြင်သုံးသပ်မှုကို ဖော်ပြခဲ့သည်။

“ကမ္ဘာကြီးသည် အန္တရာယ်ကျရောက်နေပါသည်။ AI သို့မဟုတ် ဇီဝလက်နက်များကြောင့်သာမက ယခုလက်ရှိအချိန်တွင် ဖြစ်ပေါ်နေသော အပြန်အလှန်ဆက်နွယ်နေသည့် အကျပ်အတည်းများ တစ်စီးရီးကြောင့်လည်း ဖြစ်ပါသည်” ဟု Sharma က လုပ်ဖော်ကိုင်ဖက်များအား ရေးသားခဲ့သည်။

ဤနုတ်ထွက်မှုသည် San Francisco အခြေစိုက် AI ဓာတ်ခွဲခန်းကို ဝန်းရံထားသော တင်းမာမှုများ တိုးပွားလာချိန်တွင် ဖြစ်ပေါ်လာခြင်းဖြစ်ပြီး ၎င်းသည် ပိုမိုစွမ်းအားပြင်းသော စနစ်များကို ဖွံ့ဖြိုးတိုးတက်အောင် ပြိုင်ဆိုင်လုပ်ဆောင်နေချိန်တွင် ၎င်း၏ စီမံခန့်ခွဲသူများကပင် ထိုနည်းပညာများသည် လူသားမျိုးနွယ်ကို ထိခိုက်စေနိုင်ကြောင်း သတိပေးနေကြသည်။

၎င်းသည် ကုမ္ပဏီက ထည့်သွင်းရန် ကြိုးပမ်းနေသော ကာကွယ်စောင့်ရှောက်ရေး ခြေလှမ်းများမပါဘဲ စစ်တပ်က AI ကို ကိုယ်ပိုင်အုပ်ချုပ်ခွင့်ရ လက်နက်များ ပစ်မှတ်ထားရန်အတွက် အသုံးပြုလိုသည့် Anthropic နှင့် Pentagon အကြား ကွဲဟမှုများ ကျယ်ပြန့်လာနေကြောင်း သတင်းများအပြီးတွင်လည်း ဖြစ်ပေါ်လာခြင်းဖြစ်သည်။

Anthropic က ၎င်း၏ အဓိက Claude ကိရိယာ၏ ပိုမိုစွမ်းအားကောင်းသော မူကွဲသစ်ဖြစ်သည့် Opus 4.6 ကို ထုတ်ပြန်ပြီး ရက်အနည်းငယ်အကြာတွင် ဖြစ်ပေါ်လာသော Sharma ၏ နုတ်ထွက်မှုသည် လုံခြုံရေး ဦးစားပေးမှုများနှင့် ပတ်သက်၍ အတွင်းပိုင်း ခံစားချက်ကွဲလွဲမှုများ ရှိကြောင်း ညွှန်ပြနေသည်။

“ကျွန်တော်ဒီမှာရှိနေခဲ့တဲ့ အချိန်တွေအတွင်းမှာ ကျွန်တော်တို့ရဲ့ တန်ဖိုးထားမှုတွေကို တကယ်ပဲ ကျွန်တော်တို့ရဲ့ လုပ်ဆောင်ချက်တွေကို စီမံခန့်ခွဲခွင့်ပေးဖို့ဆိုတာ ဘယ်လောက်ခက်ခဲလဲဆိုတာကို ထပ်ကာထပ်ကာ မြင်တွေ့ခဲ့ရပါတယ်” ဟု သူက ရေးသားခဲ့သည်။ “ဒါကို ကျွန်တော့်ကိုယ်ကျွန်တော်အတွင်းမှာရော၊ အဖွဲ့အစည်းအတွင်းမှာပါ မြင်တွေ့ခဲ့ရပါတယ်။ ကျွန်တော်တို့ဟာ အရေးအကြီးဆုံးအရာတွေကို ဘေးဖယ်ထားဖို့ ဖိအားတွေကို ဆက်တိုက်ရင်ဆိုင်နေရပါတယ်။ ပိုမိုကျယ်ပြန့်တဲ့ လူ့အဖွဲ့အစည်းတစ်ခုလုံးမှာလည်း ဒီလိုပါပဲ”။

ထိုသုတေသီ၏ အဖွဲ့ကို လွန်ခဲ့သော တစ်နှစ်ကျော်ခန့်က “မော်ဒယ် အလွဲသုံးစားလုပ်ခြင်းနှင့် မကိုက်ညီခြင်း”၊ ဇီဝအကြမ်းဖက်မှု တားဆီးကာကွယ်ခြင်းနှင့် “ကပ်ဘေးဆိုက်ရောက်မှု တားဆီးကာကွယ်ခြင်း” အပါအဝင် AI လုံခြုံရေး ခြိမ်းခြောက်မှုများကို ကိုင်တွယ်ဖြေရှင်းရန် တာဝန်ပေးအပ်ခြင်းခံရသည့် ရည်ရွယ်ချက်ဖြင့် ထောင်ထားခြင်းဖြစ်သည်။

Sharma သည် AI ကူညီထားသော ဇီဝလက်နက်များကို ကာကွယ်ရန် ကာကွယ်ရေးများ ဖွံ့ဖြိုးတည်ဆောက်ခြင်း လုပ်ငန်းနှင့် “AI အကူတွေက ကျွန်တော်တို့ကို ဘယ်လို လူသားဆန်မှု လျော့နည်းစေတယ် (သို့မဟုတ်) ကျွန်တော်တို့ရဲ့ လူသားဆန်မှုကို ဘယ်လို လွဲမှားစေတယ်ဆိုတာ နားလည်သဘောပေါက်ခြင်း” ဆိုင်ရာ သူ၏ “နောက်ဆုံးပရောဂျက်” အပေါ် သူ့ကိုယ်သူ ဂုဏ်ယူကြောင်း ဖော်ပြခဲ့သည်။ ယခုအခါတွင် သူသည် ယူကေသို့ ပြန်လည်နေထိုင်ရန် ရည်ရွယ်ပြီး “ကဗျာဘာသာရပ်ကို လေ့လာရန်” နှင့် “အချိန်အတိုင်းအတာတစ်ခုအထိ မမြင်ရအောင် နေထိုင်မည်” ဟု ဆိုသည်။

Anthropic ၏ အမှုဆောင်အရာရှိချုပ် Dario Amodei သည် သူ၏ကုမ္ပဏီ စီးပွားဖြစ်ရောင်းချနေသော နည်းပညာကြီးအတိုင်းပင် ဆိုက်ရောက်လာနိုင်သည့် အန္တရာယ်များအကြောင်း ထပ်ကာထပ်ကာ သတိပေးခဲ့သည်။ ပြီးခဲ့သော လက စာလုံးရေတစ်သောင်းနှစ်ထောင်နီးပါးရှိသော အက်ဆေးတစ်စောင်တွင် သူက “မယုံနိုင်လောက်အောင် စွမ်းအားကြီးမားသော” AI စနစ်များသည် “မကြာမီ ရောက်ရှိတော့မည်” ဖြစ်ပြီး ၎င်းတို့သည် “ကျွန်ုပ်တို့ မျိုးနွယ်အဖြစ် ကျွန်ုပ်တို့ ဘယ်သူလဲဆိုတာကို စမ်းသပ်စစ်ဆေးပေးလိမ့်မည်” ဟု သတိပေးခဲ့သည်။

Amodei က AI သည် “ထိန်းချုပ်မရဖြစ်ပြီး လူသားမျိုးနွယ်ကို လွှမ်းမိုးနိုင်သည့်” “ကိုယ်ပိုင်အုပ်ချုပ်ခွင့် အန္တရာယ်များ” အကြောင်းနှင့် ထိုနည်းပညာသည် AI မောင်းနှင်သော စောင့်ကြည့်လေ့လာရေးစနစ်များနှင့် ကိုယ်ပိုင်အုပ်ချုပ်ခွင့်ရ လက်နက်များမှတစ်ဆင့် “ကမ္ဘာလုံးဆိုင်ရာ အာဏာရှင်စနစ်” ကို ဖြစ်ပေါ်စေနိုင်ကြောင်း အကြံပြုခဲ့သည်။