কৃত্রিম বুদ্ধিমত্তা বা এআই প্রযুক্তির ইতিহাসে এক নজিরবিহীন ঘটনার কথা জানিয়েছে মার্কিন প্রযুক্তি প্রতিষ্ঠান ওপেনএআই। চ্যাটজিপিটির উদ্ভাবক প্রতিষ্ঠানটির তৈরি একটি এআই সিস্টেম মূল্যায়ন চলাকালে নিজস্ব সক্ষমতা ব্যবহার করে অন্য একটি এআই প্রযুক্তি প্রতিষ্ঠানের অভ্যন্তরীণ ব্যবস্থায় অননুমোদিতভাবে প্রবেশ করেছে।
মঙ্গলবার (২১ জুলাই) ওপেনএআই কর্তৃপক্ষ আনুষ্ঠানিকভাবে এ ঘটনার সত্যতা নিশ্চিত করে জানায়, নতুন একটি মডেলের সক্ষমতা যাচাইয়ের সময় অপ্রত্যাশিতভাবে এই নিরাপত্তা ঘটনা ঘটে। বুধবার (২২ জুলাই) এবিসি নিউজের এক প্রতিবেদনে এ তথ্য প্রকাশ করা হয়।
ওপেনএআইয়ের প্রধান নির্বাহী কর্মকর্তা স্যাম অল্টম্যান সামাজিক যোগাযোগমাধ্যমে দেওয়া এক বিবৃতিতে জানান, নতুন মডেলের কার্যক্ষমতা ও দক্ষতা পরীক্ষার সময় এই অনাকাঙ্ক্ষিত পরিস্থিতির সৃষ্টি হয়। তিনি বলেন, এআই এজেন্টটি সম্পূর্ণ স্বয়ংক্রিয়ভাবে অন্য একটি বাণিজ্যিক প্রতিষ্ঠানের তথ্যভাণ্ডারে প্রবেশ করে।
এর আগে বিশ্বখ্যাত এআই প্ল্যাটফর্ম হাগিং ফেস তাদের তথ্য প্রক্রিয়াকরণ ব্যবস্থায় অস্বাভাবিক অনুপ্রবেশের বিষয়টি শনাক্ত করে। প্রতিষ্ঠানটির কর্মকর্তারা ধারণা করেছিলেন, কোনো উন্নত এআই এজেন্ট নিজস্ব কৌশল প্রয়োগ করে এই ঘটনা ঘটিয়েছে।
হাগিং ফেসের সহপ্রতিষ্ঠাতা ও প্রধান নির্বাহী কর্মকর্তা ক্লেমেন্ট দেলাঙ্গু জানান, প্রথমে তারা ধারণা করেছিলেন কোনো বড় এআই গবেষণা প্রতিষ্ঠানের অত্যাধুনিক প্রযুক্তি এ ঘটনার সঙ্গে জড়িত। কারণ অনুপ্রবেশের পদ্ধতি ছিল অত্যন্ত জটিল ও উন্নত। পরে ওপেনএআইয়ের স্বীকারোক্তির পর তাদের ধারণা সত্যি প্রমাণিত হয়।
দেলাঙ্গু বলেন, ঘটনাটি জানার পর তিনি ওপেনএআইয়ের বিশেষজ্ঞ দলের সঙ্গে প্রায় ২৪ ঘণ্টা কাজ করেছেন। তার মতে, এটি কোনো ইচ্ছাকৃত বা ক্ষতিকর কর্মকাণ্ড ছিল না; বরং সম্পূর্ণ স্বয়ংক্রিয়ভাবে ঘটে যাওয়া একটি ঘটনা। কৃত্রিম বুদ্ধিমত্তার ইতিহাসে এমন ঘটনা অত্যন্ত বিরল বলেও মন্তব্য করেন তিনি।
জানা গেছে, ওপেনএআইয়ের একাধিক মডেলের সক্রিয়তার কারণে এ ঘটনা ঘটে। এর মধ্যে নতুন প্রকাশিত জিপিটি ফাইভ পয়েন্ট সিক্স সল এবং পরীক্ষাধীন আরও উন্নত একটি মডেল ছিল। ওপেনএআইয়ের তথ্য অনুযায়ী, পরীক্ষার নির্দিষ্ট লক্ষ্য পূরণ করতে গিয়ে এআই সিস্টেমটি অস্বাভাবিক পদ্ধতি গ্রহণ করে। এটি আগে থেকে পাওয়া কিছু পরিচয়পত্রের তথ্য ব্যবহার করে এবং সংশ্লিষ্ট সার্ভারে থাকা একটি নিরাপত্তাত্রুটি শনাক্ত করে সেটি কাজে লাগানোর চেষ্টা করে।
গবেষকদের জন্য সবচেয়ে বিস্ময়ের বিষয় ছিল, একটি সাধারণ মূল্যায়ন পরীক্ষায় ভালো ফল করার উদ্দেশ্যে এআই সিস্টেম এমন কৌশল গ্রহণ করবে—এটি তাদের প্রত্যাশার বাইরে ছিল। এই ঘটনা অত্যাধুনিক এআই প্রযুক্তির নিরাপত্তা নিয়ে বিশ্বজুড়ে নতুন করে উদ্বেগ তৈরি করেছে। বিশেষজ্ঞরা বলছেন, এআই যত শক্তিশালী হচ্ছে, একই সঙ্গে এর নিয়ন্ত্রণ, নিরাপত্তা ও ঝুঁকি ব্যবস্থাপনাও আরও উন্নত করা জরুরি।
এআই নিরাপত্তা নিয়ে যুক্তরাষ্ট্রসহ বিভিন্ন দেশ ইতোমধ্যে নতুন নীতিমালা গ্রহণের উদ্যোগ নিয়েছে। শক্তিশালী এআই মডেল সাধারণ মানুষের ব্যবহারের জন্য উন্মুক্ত করার আগে নিরাপত্তা যাচাইয়ের ওপরও গুরুত্ব দেওয়া হচ্ছে। ওপেনএআই জানিয়েছে, ভবিষ্যতে এ ধরনের ঝুঁকি মোকাবিলায় মডেলের নিরাপত্তাব্যবস্থা আরও শক্তিশালী করা হবে। প্রতিষ্ঠানটির মতে, এ ঘটনা প্রমাণ করেছে—এআইয়ের সক্ষমতা বৃদ্ধির সঙ্গে সঙ্গে এর নিরাপত্তা কাঠামোকেও সমান গতিতে উন্নত করতে হবে।
আপনার মতামত লিখুন :