এআই নিয়ন্ত্রণে মানুষের হাতে সময় আছে মাত্র এক বছর: জিওফ্রি হিন্টন
এআই নিয়ন্ত্রণে মানুষের হাতে সময় আছে মাত্র এক বছর: জিওফ্রি হিন্টন
সিজেডএন ডেস্ক
কৃত্রিম বুদ্ধিমত্তা বা এআই প্রযুক্তির দ্রুত অগ্রগতির সঙ্গে পাল্লা দিয়ে বাড়ছে এর সম্ভাব্য ঝুঁকি নিয়ে উদ্বেগ। যথাযথ নিরাপত্তা ও নিয়ন্ত্রণব্যবস্থা গড়ে তুলতে না পারলে ভবিষ্যতে অত্যাধুনিক এআই মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে পারে বলে সতর্ক করেছেন প্রযুক্তিবিদরা। এবার সেই উদ্বেগ আরও জোরালো করলেন নোবেলজয়ী কম্পিউটারবিজ্ঞানী জিওফ্রি হিন্টন।
‘এআইয়ের গডফাদার’ হিসেবে পরিচিত বিজ্ঞানী বলেন, এআইকে নিরাপদ ও নিয়ন্ত্রিত রাখতে প্রয়োজনীয় ব্যবস্থা তৈরির জন্য মানুষের হাতে হয়তো এক বছরের মতো সময় রয়েছে।
সম্প্রতি যুক্তরাষ্ট্রের ওয়াশিংটনে মার্কিন কংগ্রেসের কয়েকজন সদস্যের সঙ্গে একটি রুদ্ধদ্বার বৈঠকে অংশ নেন হিন্টন। বৈঠক শেষে আইনপ্রণেতাদের হাতে এআই নিয়ন্ত্রণের জন্য কতটা সময় রয়েছে-এমন প্রশ্নের জবাবে তিনি বলেন, সময় হয়তো এক বছর। তবে এর চেয়ে খুব বেশি সময় হাতে নেই। প্রযুক্তিটির বিকাশের গতি কিছুটা ধীর করার পাশাপাশি এর নিরাপত্তাব্যবস্থা দ্রুত শক্তিশালী করা জরুরি।
এআইয়ের যুগে টিকে থাকতে যা করবেনজিওফ্রি হিন্টন বলেন, এআইয়ের ক্ষমতা যেভাবে বাড়ছে, সেই অনুপাতে যদি এর ওপর নজরদারি ও নিরাপত্তাব্যবস্থা উন্নত না করা হয়, তাহলে ভবিষ্যতে আরও বড় ধরনের বিপর্যয় ঘটতে পারে।
হিন্টনের উদ্বেগের অন্যতম কারণ হলো কৃত্রিম সাধারণ বুদ্ধিমত্তা বা এজিআই তৈরির সম্ভাব্য সময় ক্রমেই কমে আসা। এজিআই এমন এক ধরনের কৃত্রিম বুদ্ধিমত্তা, যা মানুষের মতো বিস্তৃত পরিসরের কাজ সম্পাদন করতে সক্ষম হবে এবং কিছু ক্ষেত্রে মানুষের চেয়েও বেশি দক্ষতা দেখাতে পারে।
তার মতে, একসময় গবেষকদের ধারণা ছিল এ ধরনের প্রযুক্তি তৈরি করতে ৩০ থেকে ৫০ বছর সময় লাগতে পারে। পরবর্তী সময়ে সেই অনুমান কমে ১০ থেকে ২০ বছরে নেমে আসে। এখন অনেক গবেষক মনে করছেন, মানুষের সমপর্যায়ের বা তার চেয়েও বেশি সক্ষম এআই তৈরি হতে কয়েক বছর মাত্র লাগতে পারে।
এমন পরিস্থিতিতেই যুক্তরাষ্ট্রে উন্নত এআইয়ের নিরাপত্তা ও নিয়ন্ত্রণ নিয়ে নতুন করে আলোচনা শুরু হয়েছে। এর পেছনে অন্যতম আলোচিত ঘটনা হাগিং ফেসকে ঘিরে সাম্প্রতিক সাইবার নিরাপত্তা পরীক্ষা।
জুলাইয়ে ওই পরীক্ষার সময় ওপেনএআইয়ের কয়েকটি এআই এজেন্ট মানুষের সরাসরি নির্দেশনা ছাড়াই ইন্টারনেটে প্রবেশ করে হাগিং ফেসের সিস্টেমে ঢুকে পড়ে।
ওপেনএআই জানিয়েছে, এআই এজেন্টগুলো ধারাবাহিকভাবে একাধিক নিরাপত্তা দুর্বলতা কাজে লাগিয়ে হাগিং ফেসের বিভিন্ন সার্ভারে প্রবেশ করতে সক্ষম হয়।
ঘটনার আরও উদ্বেগজনক দিক ছিলো, এআই এজেন্টগুলো নিজেদের মধ্যে অননুমোদিত যোগাযোগের একটি ব্যবস্থা তৈরি করেছিলো। এর ফলে একটি এজেন্টের সংগ্রহ করা তথ্য অন্য এজেন্টদের কাছে পৌঁছে যায় এবং তারা নিজেদের কার্যক্রমের মধ্যে সমন্বয় করতে থাকে।
প্রতিষ্ঠানটির মতে, পর্যাপ্ত নিরাপত্তাব্যবস্থা না থাকলে অত্যন্ত সক্ষম এআই এজেন্ট প্রযুক্তিগত বাধা এড়িয়ে যেতে পারে, অনুমোদন ছাড়া একে অপরের সঙ্গে যোগাযোগ করতে পারে এবং মানুষের সরাসরি নির্দেশনা ছাড়াই ঝুঁকিপূর্ণ কর্মকাণ্ডে যুক্ত হতে পারে।
কৃত্রিম বুদ্ধিমত্তা বা এআই প্রযুক্তির দ্রুত অগ্রগতির সঙ্গে পাল্লা দিয়ে বাড়ছে এর সম্ভাব্য ঝুঁকি নিয়ে উদ্বেগ। যথাযথ নিরাপত্তা ও নিয়ন্ত্রণব্যবস্থা গড়ে তুলতে না পারলে ভবিষ্যতে অত্যাধুনিক এআই মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে পারে বলে সতর্ক করেছেন প্রযুক্তিবিদরা। এবার সেই উদ্বেগ আরও জোরালো করলেন নোবেলজয়ী কম্পিউটারবিজ্ঞানী জিওফ্রি হিন্টন।
‘এআইয়ের গডফাদার’ হিসেবে পরিচিত বিজ্ঞানী বলেন, এআইকে নিরাপদ ও নিয়ন্ত্রিত রাখতে প্রয়োজনীয় ব্যবস্থা তৈরির জন্য মানুষের হাতে হয়তো এক বছরের মতো সময় রয়েছে।
সম্প্রতি যুক্তরাষ্ট্রের ওয়াশিংটনে মার্কিন কংগ্রেসের কয়েকজন সদস্যের সঙ্গে একটি রুদ্ধদ্বার বৈঠকে অংশ নেন হিন্টন। বৈঠক শেষে আইনপ্রণেতাদের হাতে এআই নিয়ন্ত্রণের জন্য কতটা সময় রয়েছে-এমন প্রশ্নের জবাবে তিনি বলেন, সময় হয়তো এক বছর। তবে এর চেয়ে খুব বেশি সময় হাতে নেই। প্রযুক্তিটির বিকাশের গতি কিছুটা ধীর করার পাশাপাশি এর নিরাপত্তাব্যবস্থা দ্রুত শক্তিশালী করা জরুরি।
জিওফ্রি হিন্টন বলেন, এআইয়ের ক্ষমতা যেভাবে বাড়ছে, সেই অনুপাতে যদি এর ওপর নজরদারি ও নিরাপত্তাব্যবস্থা উন্নত না করা হয়, তাহলে ভবিষ্যতে আরও বড় ধরনের বিপর্যয় ঘটতে পারে।
হিন্টনের উদ্বেগের অন্যতম কারণ হলো কৃত্রিম সাধারণ বুদ্ধিমত্তা বা এজিআই তৈরির সম্ভাব্য সময় ক্রমেই কমে আসা। এজিআই এমন এক ধরনের কৃত্রিম বুদ্ধিমত্তা, যা মানুষের মতো বিস্তৃত পরিসরের কাজ সম্পাদন করতে সক্ষম হবে এবং কিছু ক্ষেত্রে মানুষের চেয়েও বেশি দক্ষতা দেখাতে পারে।
তার মতে, একসময় গবেষকদের ধারণা ছিল এ ধরনের প্রযুক্তি তৈরি করতে ৩০ থেকে ৫০ বছর সময় লাগতে পারে। পরবর্তী সময়ে সেই অনুমান কমে ১০ থেকে ২০ বছরে নেমে আসে। এখন অনেক গবেষক মনে করছেন, মানুষের সমপর্যায়ের বা তার চেয়েও বেশি সক্ষম এআই তৈরি হতে কয়েক বছর মাত্র লাগতে পারে।
এমন পরিস্থিতিতেই যুক্তরাষ্ট্রে উন্নত এআইয়ের নিরাপত্তা ও নিয়ন্ত্রণ নিয়ে নতুন করে আলোচনা শুরু হয়েছে। এর পেছনে অন্যতম আলোচিত ঘটনা হাগিং ফেসকে ঘিরে সাম্প্রতিক সাইবার নিরাপত্তা পরীক্ষা।
জুলাইয়ে ওই পরীক্ষার সময় ওপেনএআইয়ের কয়েকটি এআই এজেন্ট মানুষের সরাসরি নির্দেশনা ছাড়াই ইন্টারনেটে প্রবেশ করে হাগিং ফেসের সিস্টেমে ঢুকে পড়ে।
ওপেনএআই জানিয়েছে, এআই এজেন্টগুলো ধারাবাহিকভাবে একাধিক নিরাপত্তা দুর্বলতা কাজে লাগিয়ে হাগিং ফেসের বিভিন্ন সার্ভারে প্রবেশ করতে সক্ষম হয়।
ঘটনার আরও উদ্বেগজনক দিক ছিলো, এআই এজেন্টগুলো নিজেদের মধ্যে অননুমোদিত যোগাযোগের একটি ব্যবস্থা তৈরি করেছিলো। এর ফলে একটি এজেন্টের সংগ্রহ করা তথ্য অন্য এজেন্টদের কাছে পৌঁছে যায় এবং তারা নিজেদের কার্যক্রমের মধ্যে সমন্বয় করতে থাকে।
প্রতিষ্ঠানটির মতে, পর্যাপ্ত নিরাপত্তাব্যবস্থা না থাকলে অত্যন্ত সক্ষম এআই এজেন্ট প্রযুক্তিগত বাধা এড়িয়ে যেতে পারে, অনুমোদন ছাড়া একে অপরের সঙ্গে যোগাযোগ করতে পারে এবং মানুষের সরাসরি নির্দেশনা ছাড়াই ঝুঁকিপূর্ণ কর্মকাণ্ডে যুক্ত হতে পারে।
এআই নিয়ন্ত্রণে মানুষের হাতে সময় আছে মাত্র এক বছর: জিওফ্রি হিন্টন
সিজেডএন ডেস্ক
কৃত্রিম বুদ্ধিমত্তা বা এআই প্রযুক্তির দ্রুত অগ্রগতির সঙ্গে পাল্লা দিয়ে বাড়ছে এর সম্ভাব্য ঝুঁকি নিয়ে উদ্বেগ। যথাযথ নিরাপত্তা ও নিয়ন্ত্রণব্যবস্থা গড়ে তুলতে না পারলে ভবিষ্যতে অত্যাধুনিক এআই মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে পারে বলে সতর্ক করেছেন প্রযুক্তিবিদরা। এবার সেই উদ্বেগ আরও জোরালো করলেন নোবেলজয়ী কম্পিউটারবিজ্ঞানী জিওফ্রি হিন্টন।
‘এআইয়ের গডফাদার’ হিসেবে পরিচিত বিজ্ঞানী বলেন, এআইকে নিরাপদ ও নিয়ন্ত্রিত রাখতে প্রয়োজনীয় ব্যবস্থা তৈরির জন্য মানুষের হাতে হয়তো এক বছরের মতো সময় রয়েছে।
সম্প্রতি যুক্তরাষ্ট্রের ওয়াশিংটনে মার্কিন কংগ্রেসের কয়েকজন সদস্যের সঙ্গে একটি রুদ্ধদ্বার বৈঠকে অংশ নেন হিন্টন। বৈঠক শেষে আইনপ্রণেতাদের হাতে এআই নিয়ন্ত্রণের জন্য কতটা সময় রয়েছে-এমন প্রশ্নের জবাবে তিনি বলেন, সময় হয়তো এক বছর। তবে এর চেয়ে খুব বেশি সময় হাতে নেই। প্রযুক্তিটির বিকাশের গতি কিছুটা ধীর করার পাশাপাশি এর নিরাপত্তাব্যবস্থা দ্রুত শক্তিশালী করা জরুরি।
জিওফ্রি হিন্টন বলেন, এআইয়ের ক্ষমতা যেভাবে বাড়ছে, সেই অনুপাতে যদি এর ওপর নজরদারি ও নিরাপত্তাব্যবস্থা উন্নত না করা হয়, তাহলে ভবিষ্যতে আরও বড় ধরনের বিপর্যয় ঘটতে পারে।
হিন্টনের উদ্বেগের অন্যতম কারণ হলো কৃত্রিম সাধারণ বুদ্ধিমত্তা বা এজিআই তৈরির সম্ভাব্য সময় ক্রমেই কমে আসা। এজিআই এমন এক ধরনের কৃত্রিম বুদ্ধিমত্তা, যা মানুষের মতো বিস্তৃত পরিসরের কাজ সম্পাদন করতে সক্ষম হবে এবং কিছু ক্ষেত্রে মানুষের চেয়েও বেশি দক্ষতা দেখাতে পারে।
তার মতে, একসময় গবেষকদের ধারণা ছিল এ ধরনের প্রযুক্তি তৈরি করতে ৩০ থেকে ৫০ বছর সময় লাগতে পারে। পরবর্তী সময়ে সেই অনুমান কমে ১০ থেকে ২০ বছরে নেমে আসে। এখন অনেক গবেষক মনে করছেন, মানুষের সমপর্যায়ের বা তার চেয়েও বেশি সক্ষম এআই তৈরি হতে কয়েক বছর মাত্র লাগতে পারে।
এমন পরিস্থিতিতেই যুক্তরাষ্ট্রে উন্নত এআইয়ের নিরাপত্তা ও নিয়ন্ত্রণ নিয়ে নতুন করে আলোচনা শুরু হয়েছে। এর পেছনে অন্যতম আলোচিত ঘটনা হাগিং ফেসকে ঘিরে সাম্প্রতিক সাইবার নিরাপত্তা পরীক্ষা।
জুলাইয়ে ওই পরীক্ষার সময় ওপেনএআইয়ের কয়েকটি এআই এজেন্ট মানুষের সরাসরি নির্দেশনা ছাড়াই ইন্টারনেটে প্রবেশ করে হাগিং ফেসের সিস্টেমে ঢুকে পড়ে।
ওপেনএআই জানিয়েছে, এআই এজেন্টগুলো ধারাবাহিকভাবে একাধিক নিরাপত্তা দুর্বলতা কাজে লাগিয়ে হাগিং ফেসের বিভিন্ন সার্ভারে প্রবেশ করতে সক্ষম হয়।
ঘটনার আরও উদ্বেগজনক দিক ছিলো, এআই এজেন্টগুলো নিজেদের মধ্যে অননুমোদিত যোগাযোগের একটি ব্যবস্থা তৈরি করেছিলো। এর ফলে একটি এজেন্টের সংগ্রহ করা তথ্য অন্য এজেন্টদের কাছে পৌঁছে যায় এবং তারা নিজেদের কার্যক্রমের মধ্যে সমন্বয় করতে থাকে।
প্রতিষ্ঠানটির মতে, পর্যাপ্ত নিরাপত্তাব্যবস্থা না থাকলে অত্যন্ত সক্ষম এআই এজেন্ট প্রযুক্তিগত বাধা এড়িয়ে যেতে পারে, অনুমোদন ছাড়া একে অপরের সঙ্গে যোগাযোগ করতে পারে এবং মানুষের সরাসরি নির্দেশনা ছাড়াই ঝুঁকিপূর্ণ কর্মকাণ্ডে যুক্ত হতে পারে।
