কৃত্রিম বুদ্ধিমত্তার অপব্যবহার নিয়ে বিশ্বজুড়ে উদ্বেগ বাড়ছে। এমন সময়ে শীর্ষ এআই কোম্পানিগুলোকে মডেল উন্নয়নের গতি কিছুটা কমিয়ে আনার আহ্বান জানিয়েছেন অ্যানথ্রোপিকের প্রধান নির্বাহী দারিও আমোদেই। তিনি বলছেন, এআইয়ের ঝুঁকি মোকাবিলায় আরও সময় দরকার। সেই লক্ষ্যে তিন ধাপের একটি পরিকল্পনাও তুলে ধরেছেন তিনি।
শনিবার (১২ সেপ্টেম্বর) এক্সে দীর্ঘ এক নিবন্ধে আমোদেই বলেন, আমাদের অবশ্যই এআই মডেলগুলোর সক্ষমতা বাড়ানোর গতি কমিয়ে আনতে হবে। এর পরও উন্নতির গতি বেশ দ্রুতই মনে হবে। কিন্তু যে সময়টুকু পাওয়া যাবে, সেটা বুদ্ধিমত্তার সঙ্গে কাজে লাগাতে হবে।
তার প্রস্তাবিত তিন ধাপের রূপরেখায় রয়েছে:
– স্বতন্ত্র মূল্যায়নকারী দল নিয়োগ: এআই প্রতিষ্ঠানগুলোর নিরাপত্তা ব্যবস্থা যাচাইয়ে নিরপেক্ষ ও স্বতন্ত্র মূল্যায়নকারীদের স্থায়ীভাবে যুক্ত করা। তাদের ভেতরের কর্মীদের মতো পূর্ণ প্রবেশাধিকার থাকবে।
– প্রতিষ্ঠানগুলোর মধ্যে সমন্বয়: ফ্রন্টিয়ার এআই কোম্পানিগুলো নিজেদের মধ্যে সমন্বয় করে নিরাপত্তার মানদণ্ড ঠিক করবে এবং অনিয়ন্ত্রিত অগ্রগতির লাগাম টানবে।
– আন্তর্জাতিক সহযোগিতা: এআইয়ের সম্ভাব্য ঝুঁকি ব্যবস্থাপনায় বৈশ্বিক সহযোগিতার ক্ষেত্র তৈরি করা।
এক্সের আলাদা পোস্টে এক্সএআইয়ের প্রধান নির্বাহী ইলোন মাস্ক এবং ওপেনএআইয়ের সিইও স্যাম অল্টম্যান জানিয়েছেন, তারা এই প্রস্তাবের সঙ্গে একমত। অল্টম্যান বলেন, কর্মীদের মতো স্বাধীন মূল্যায়নকারীদের প্রবেশাধিকার দেওয়ার চিন্তাটা খুবই ভালো। ওপেনএআইও একই পদক্ষেপ নেবে। খুব শিগগিরই এ বিষয়ে বিস্তারিত জানানো হবে বলেও তিনি উল্লেখ করেন।
গত বৃহস্পতিবার সান ফ্রান্সিসকোভিত্তিক অ্যানথ্রোপিক এআইয়ের ক্রমবর্ধমান হুমকি নিয়ে একটি গোয়েন্দা প্রতিবেদন প্রকাশ করে। সেখানে দেখানো হয়, বিভিন্ন অসাধু চক্র তাদের ক্লড মডেলগুলোকে অস্ত্র তৈরি, সাইবার হামলা, নজরদারি ও প্রতারণার মতো বিপজ্জনক কাজে ব্যবহার করেছে। এই প্রতিবেদন প্রকাশের পরপরই আমোদেই এক্সে ওই দীর্ঘ নিবন্ধটি লেখেন।
মডেলের সক্ষমতা বাড়ানোর গতি কমানোর প্রধান কারণ হিসেবে তিনি উল্লেখ করেন কৃত্রিম বুদ্ধিমত্তার নিজের সক্ষমতা নিজে বাড়ানোর ক্ষমতা। এতে মানুষের নিয়ন্ত্রণের বাইরে চলে যাওয়ার যে দীর্ঘদিনের ভয় রয়েছে, সেই সঙ্গে ওপেনএআই ও হাগিং ফেস সংক্রান্ত সাম্প্রতিক ঘটনাগুলোকেও তিনি গতি কমানোর অন্যতম কারণ হিসেবে দেখছেন।
চলতি সপ্তাহে অ্যানথ্রোপিকের গবেষক জেকবস কক্সন পদত্যাগ করার পর এআইয়ের সম্ভাব্য বিধ্বংসী প্রভাব নিয়ে উদ্বেগ আরও বেড়েছে। পদত্যাগপত্রে তিনি সতর্ক করে লিখেছেন, যারা এআই তৈরি করছেন, তারা সত্যিই বিশ্বাস করেন যে এই দশক শেষ হওয়ার আগেই এ প্রযুক্তি আমাদের সবাইকে ধ্বংস করে দিতে পারে।
ওপেনএআইয়ের একাধিক শীর্ষ নির্বাহীও বলেছেন, নিরাপত্তা ব্যবস্থাগুলো কতটা কার্যকর তা নিশ্চিত করতে এবং আত্মবিশ্বাস ফিরে পেতে প্রয়োজনে কয়েকটি শীর্ষ ল্যাবের যৌথ সম্মতিতে এআইয়ের অগ্রগতির গতি শ্লথ করা উচিত।
নিজেদের নিরাপত্তাসচেতন ফ্রন্টিয়ার ল্যাব হিসেবে দাবি করলেও অ্যানথ্রোপিকও এই সংকটের বাইরে নয়। গত জুলাইয়ে এক সাইবার নিরাপত্তা পরীক্ষার সময় তাদের কয়েকটি ক্লড মডেল অনধিকার চর্চা করে তিনটি বাণিজ্যিক প্রতিষ্ঠানের সিস্টেমে ঢুকে পড়ে। গত সপ্তাহেও এআই মডেল দিয়ে বাহ্যিক সিস্টেমে হ্যাকিংয়ের আরেকটি ঘটনার কথা প্রকাশ করে সংস্থাটি।
আমোদেই বলেন, এআইয়ের সক্ষমতা বৃদ্ধির এই উন্মাদ গতি দেখে তার ভয় হচ্ছে, আগামী ছয় থেকে ১২ মাসের মধ্যেই হয়তো স্বয়ংক্রিয় এআইয়ের এমন কোনো সংঘাতময় ‘ঝাঁক’ তৈরি হতে পারে, যা পুরো ইন্টারনেট ব্যবস্থা দখলে নিতে সক্ষম। এর ফলে কয়েক শ বিলিয়ন ডলারের ক্ষতি হতে পারে।
তবে তিনি এআই মডেলের প্রশিক্ষণ বা কারিগরি উন্নয়ন একবারে বন্ধ করার কথা বলছেন না। বরং কোম্পানিগুলো যাতে মডেলের নিরাপত্তা ও সঠিক লক্ষ্য নির্ধারণে পর্যাপ্ত সময় নেয় এবং তৃতীয় পক্ষের মূল্যায়নকারীরা প্রতিটি ধাপ সঠিকভাবে যাচাই করতে পারে, সেটা নিশ্চিত করার দাবি জানাচ্ছেন।
এদিকে সবার চেয়ে এগিয়ে থাকার এই প্রতিযোগিতায় জড়িয়ে আছে বিপুল আর্থিক স্বার্থ। ওপেনএআই এবং অ্যানথ্রোপিক দুই প্রতিষ্ঠানই শেয়ারবাজারে বড় ধরনের আইপিও ছাড়ার প্রস্তুতি নিচ্ছে। যেকোনো নতুন সক্ষমতা বা সাফল্যই ভবিষ্যৎ বিনিয়োগ আনা, নতুন অবকাঠামো গড়া কিংবা আইপিওর মূল্যায়নে বড় ভূমিকা রাখে।
আমোদেই জানান, প্রস্তাবিত কাঠামোর অংশ হিসেবে অ্যানথ্রোপিক তাদের অভ্যন্তরীণ প্রক্রিয়ায় স্থায়ীভাবে তৃতীয় পক্ষের পর্যালোচক বসাবে। তাদের প্রয়োজনীয় সব টুলস ও ঝুঁকি মূল্যায়ন পদ্ধতিতে পূর্ণ প্রবেশাধিকার থাকবে।
গত সপ্তাহে রয়টার্সের এক প্রতিবেদনে বলা হয়, ওপেনএআইয়ের অনিয়ন্ত্রিত একদল এআই এজেন্ট জার্মানির একটি ওয়েবসাইটে অননুমোদিতভাবে ঢুকে সেটিকে অন্য এআই এজেন্টদের ব্যবহারের জন্য নোটিশবোর্ডে পরিণত করে। ওপেনলেবেল প্ল্যাটফর্ম হাগিং ফেসে জুলাইয়ের অনাকাঙ্ক্ষিত ঘটনার ধাক্কা সামলানোর মধ্যেই ওপেনএআই কর্তৃপক্ষ বিষয়টিকে জনসমক্ষে না এনে গোপন রেখেছিল।
ওপেনএআইয়ের মতো ডেভেলপারদের তৈরি এআই এজেন্টদের দ্বারা বাহ্যিক সিস্টেমে হ্যাকিংয়ের মতো একের পর এক ঘটনা এআই মডেলগুলোর লাগামহীন সক্ষমতা এবং নির্মাতাদের নিয়ন্ত্রণ ক্ষমতা নিয়ে বিশ্বজুড়ে উদ্বেগ বহুগুণ বাড়িয়ে দিয়েছে।
এআই ব্যবস্থার জন্য আমেরিকাজুড়ে আইনপ্রণেতারা নতুন নতুন কঠোর আইন প্রণয়নের দাবি তুলছেন। এআই কোম্পানিগুলোর নিজেদেরই স্বেচ্ছায় একযোগে কাজ করে নিরাপত্তার সর্বজনীন মানদণ্ড তৈরি করা উচিত বলেন আমোদেই।
সূত্র: রয়টার্স
