নিরাপত্তাব্যবস্থা সরালেই বিপজ্জনক এআই
নিরাপত্তাব্যবস্থা সরালেই বিপজ্জনক এআই
সিজেডএন ডেস্ক
কৃত্রিম বুদ্ধিমত্তা (এআই) মানুষের কাজ সহজ করছে, খুলে দিচ্ছে নতুন সম্ভাবনার দুয়ার। কিন্তু এই প্রযুক্তিই যদি সন্ত্রাসীদের হাতে বিপজ্জনক হাতিয়ার হয়ে ওঠে? নিরাপত্তাব্যবস্থা সরিয়ে দিলে এআইয়ের কাছ থেকেই পাওয়া যেতে পারে সন্ত্রাসী হামলার পরিকল্পনা, অর্থায়নের কৌশল কিংবা উগ্রবাদ ছড়ানোর মতো স্পর্শকাতর তথ্য। সাম্প্রতিক এক গবেষণায় উঠে এসেছে এমনই উদ্বেগজনক চিত্র। নিরাপত্তা পরীক্ষায় পাঁচটি এআই মডেলের মধ্যে তিনটি ব্যর্থ হয়েছে বলে জানিয়েছে গবেষকেরা।
যুক্তরাজ্যভিত্তিক অলাভজনক সংস্থা টেক এগেইনস্ট টেররিজমের গবেষণায় দেখা গেছে, এআই মডেলের নিরাপত্তাব্যবস্থা অকার্যকর করে দেওয়া গেলে বিপজ্জনক তথ্য পাওয়ার বাধা অনেকটাই কমে যায়।
গবেষণায় ১৩০টির বেশি এআই মডেল পরীক্ষা করেন গবেষকেরা। সম্ভাব্য সন্ত্রাসী হামলার পরিকল্পনায় ব্যবহার করা হতে পারে-এমন শত শত প্রশ্নের মাধ্যমে যাচাই করা হয় মডেলগুলোর নিরাপত্তাব্যবস্থা। পরীক্ষায় দেখা যায়, নিরাপত্তাব্যবস্থা সক্রিয় থাকলে যেসব অনুরোধ মডেলগুলো প্রত্যাখ্যান করে, সুরক্ষাব্যবস্থা সরিয়ে দেওয়ার পর সেগুলোরই কিছু ক্ষেত্রে বিস্তারিত উত্তর দিতে শুরু করে তারা।
এর সবচেয়ে উল্লেখযোগ্য উদাহরণ মেটার তৈরি ‘লামা ৩.১ ৮বি’ মডেল। স্বাভাবিক নিরাপত্তাব্যবস্থা বজায় থাকা অবস্থায় পরীক্ষায় ১০০-এর মধ্যে ৯৭ নম্বর পেয়েছিলো মডেলটি। কিন্তু নিরাপত্তাব্যবস্থা অপসারণের পর সেই স্কোর নেমে আসে প্রায় ৩-এ। অর্থাৎ, সুরক্ষাব্যবস্থার ওপর নির্ভরশীলতা কতটা বড় হতে পারে, তা এই ফলাফলেই স্পষ্ট হয়ে উঠেছে।
গবেষকদের দাবি, নিরাপত্তাব্যবস্থা সরানোর পর মডেলটি সন্ত্রাসী হামলার পরিকল্পনা, সন্ত্রাসী কর্মকাণ্ডে অর্থায়ন এবং উগ্রবাদী মতাদর্শে মানুষকে আকৃষ্ট করার মতো বিষয়ে বিস্তারিত তথ্য দিয়েছে। অথচ নিরাপত্তাব্যবস্থা সক্রিয় থাকা অবস্থায় একই ধরনের অনুরোধ প্রত্যাখ্যান করেছিলো সেটি।
চ্যাটজিপিটিতে ছবি এডিট করে বিপদে পড়ছেন না তোএআই প্রযুক্তির অপব্যবহার নিয়ে আলোচনা নতুন নয়। তবে উন্মুক্ত এআই মডেলের নিরাপত্তাব্যবস্থা সরিয়ে সেগুলোকে বিপজ্জনক কাজে ব্যবহারের উপযোগী করে তোলার ঝুঁকি বিশেষভাবে ভাবাচ্ছে গবেষকদের।
টেক এগেইনস্ট টেররিজমের প্রতিষ্ঠাতা ও নির্বাহী পরিচালক অ্যাডাম হ্যাডলি বলেন, এআইয়ের ওপর নিয়ন্ত্রণ হারানো এবং এর অস্তিত্বগত ঝুঁকি নিয়ে ব্যাপক আলোচনা হলেও কিছু উন্মুক্ত মডেলের নিরাপত্তাব্যবস্থা ইতিমধ্যে ভেঙে ফেলার বিষয়টি তুলনামূলকভাবে কম গুরুত্ব পেয়েছে।
গবেষণায় এআই মডেল প্রকাশ ও আদান-প্রদানের জনপ্রিয় প্ল্যাটফর্ম হাগিং ফেসের তথ্যও তুলে ধরা হয়েছে। গত সেপ্টেম্বরের শেষ দিকে প্ল্যাটফর্মটির ২৯ হাজারের বেশি রিপোজিটরিতে নিরাপত্তাব্যবস্থা অপসারণ করা হয়েছে বা সেন্সরবিহীন এআই মডেল পাওয়া যায়-এমন বিজ্ঞাপন দেখা গিয়েছিলো।
হাগিং ফেস জানিয়েছে, তাদের নীতিমালাবিরোধী কনটেন্ট শনাক্ত করতে নিয়মিত পর্যবেক্ষণ ও নিয়ন্ত্রণ কার্যক্রম চালানো হয়। একই সঙ্গে গবেষণা প্রতিবেদনের কিছু সুপারিশ উন্মুক্ত গবেষণার পরিবেশের ওপর নেতিবাচক প্রভাব ফেলতে পারে বলেও উদ্বেগ জানিয়েছে প্রতিষ্ঠানটি।
এআইয়ের অপব্যবহার ঠেকাতে স্বাধীন সংস্থার মাধ্যমে নিরাপত্তা যাচাই, মডেলের সুরক্ষাব্যবস্থা অপসারণ প্রতিরোধে শক্তিশালী প্রযুক্তিগত ব্যবস্থা এবং পরিবর্তিত মডেল বিতরণে কঠোর নিয়ন্ত্রণের সুপারিশ করেছে টেক এগেইনস্ট টেররিজম।
বিশেষজ্ঞদের সামনে এখন বড় চ্যালেঞ্জ-প্রযুক্তির অগ্রগতিকে বাধাগ্রস্ত না করে কীভাবে এর অপব্যবহার ঠেকানো যায়। কারণ, এআইয়ের নিরাপত্তা নিশ্চিত করা এবং উদ্ভাবন অব্যাহত রাখা পরস্পরবিরোধী নয়। বরং প্রযুক্তির সক্ষমতা যত বাড়বে, তার অপব্যবহার রোধে নিরাপত্তাব্যবস্থাকেও তত শক্তিশালী করতে হবে।
কৃত্রিম বুদ্ধিমত্তা (এআই) মানুষের কাজ সহজ করছে, খুলে দিচ্ছে নতুন সম্ভাবনার দুয়ার। কিন্তু এই প্রযুক্তিই যদি সন্ত্রাসীদের হাতে বিপজ্জনক হাতিয়ার হয়ে ওঠে? নিরাপত্তাব্যবস্থা সরিয়ে দিলে এআইয়ের কাছ থেকেই পাওয়া যেতে পারে সন্ত্রাসী হামলার পরিকল্পনা, অর্থায়নের কৌশল কিংবা উগ্রবাদ ছড়ানোর মতো স্পর্শকাতর তথ্য। সাম্প্রতিক এক গবেষণায় উঠে এসেছে এমনই উদ্বেগজনক চিত্র। নিরাপত্তা পরীক্ষায় পাঁচটি এআই মডেলের মধ্যে তিনটি ব্যর্থ হয়েছে বলে জানিয়েছে গবেষকেরা।
যুক্তরাজ্যভিত্তিক অলাভজনক সংস্থা টেক এগেইনস্ট টেররিজমের গবেষণায় দেখা গেছে, এআই মডেলের নিরাপত্তাব্যবস্থা অকার্যকর করে দেওয়া গেলে বিপজ্জনক তথ্য পাওয়ার বাধা অনেকটাই কমে যায়।
গবেষণায় ১৩০টির বেশি এআই মডেল পরীক্ষা করেন গবেষকেরা। সম্ভাব্য সন্ত্রাসী হামলার পরিকল্পনায় ব্যবহার করা হতে পারে-এমন শত শত প্রশ্নের মাধ্যমে যাচাই করা হয় মডেলগুলোর নিরাপত্তাব্যবস্থা। পরীক্ষায় দেখা যায়, নিরাপত্তাব্যবস্থা সক্রিয় থাকলে যেসব অনুরোধ মডেলগুলো প্রত্যাখ্যান করে, সুরক্ষাব্যবস্থা সরিয়ে দেওয়ার পর সেগুলোরই কিছু ক্ষেত্রে বিস্তারিত উত্তর দিতে শুরু করে তারা।
এর সবচেয়ে উল্লেখযোগ্য উদাহরণ মেটার তৈরি ‘লামা ৩.১ ৮বি’ মডেল। স্বাভাবিক নিরাপত্তাব্যবস্থা বজায় থাকা অবস্থায় পরীক্ষায় ১০০-এর মধ্যে ৯৭ নম্বর পেয়েছিলো মডেলটি। কিন্তু নিরাপত্তাব্যবস্থা অপসারণের পর সেই স্কোর নেমে আসে প্রায় ৩-এ। অর্থাৎ, সুরক্ষাব্যবস্থার ওপর নির্ভরশীলতা কতটা বড় হতে পারে, তা এই ফলাফলেই স্পষ্ট হয়ে উঠেছে।
গবেষকদের দাবি, নিরাপত্তাব্যবস্থা সরানোর পর মডেলটি সন্ত্রাসী হামলার পরিকল্পনা, সন্ত্রাসী কর্মকাণ্ডে অর্থায়ন এবং উগ্রবাদী মতাদর্শে মানুষকে আকৃষ্ট করার মতো বিষয়ে বিস্তারিত তথ্য দিয়েছে। অথচ নিরাপত্তাব্যবস্থা সক্রিয় থাকা অবস্থায় একই ধরনের অনুরোধ প্রত্যাখ্যান করেছিলো সেটি।
এআই প্রযুক্তির অপব্যবহার নিয়ে আলোচনা নতুন নয়। তবে উন্মুক্ত এআই মডেলের নিরাপত্তাব্যবস্থা সরিয়ে সেগুলোকে বিপজ্জনক কাজে ব্যবহারের উপযোগী করে তোলার ঝুঁকি বিশেষভাবে ভাবাচ্ছে গবেষকদের।
টেক এগেইনস্ট টেররিজমের প্রতিষ্ঠাতা ও নির্বাহী পরিচালক অ্যাডাম হ্যাডলি বলেন, এআইয়ের ওপর নিয়ন্ত্রণ হারানো এবং এর অস্তিত্বগত ঝুঁকি নিয়ে ব্যাপক আলোচনা হলেও কিছু উন্মুক্ত মডেলের নিরাপত্তাব্যবস্থা ইতিমধ্যে ভেঙে ফেলার বিষয়টি তুলনামূলকভাবে কম গুরুত্ব পেয়েছে।
গবেষণায় এআই মডেল প্রকাশ ও আদান-প্রদানের জনপ্রিয় প্ল্যাটফর্ম হাগিং ফেসের তথ্যও তুলে ধরা হয়েছে। গত সেপ্টেম্বরের শেষ দিকে প্ল্যাটফর্মটির ২৯ হাজারের বেশি রিপোজিটরিতে নিরাপত্তাব্যবস্থা অপসারণ করা হয়েছে বা সেন্সরবিহীন এআই মডেল পাওয়া যায়-এমন বিজ্ঞাপন দেখা গিয়েছিলো।
হাগিং ফেস জানিয়েছে, তাদের নীতিমালাবিরোধী কনটেন্ট শনাক্ত করতে নিয়মিত পর্যবেক্ষণ ও নিয়ন্ত্রণ কার্যক্রম চালানো হয়। একই সঙ্গে গবেষণা প্রতিবেদনের কিছু সুপারিশ উন্মুক্ত গবেষণার পরিবেশের ওপর নেতিবাচক প্রভাব ফেলতে পারে বলেও উদ্বেগ জানিয়েছে প্রতিষ্ঠানটি।
এআইয়ের অপব্যবহার ঠেকাতে স্বাধীন সংস্থার মাধ্যমে নিরাপত্তা যাচাই, মডেলের সুরক্ষাব্যবস্থা অপসারণ প্রতিরোধে শক্তিশালী প্রযুক্তিগত ব্যবস্থা এবং পরিবর্তিত মডেল বিতরণে কঠোর নিয়ন্ত্রণের সুপারিশ করেছে টেক এগেইনস্ট টেররিজম।
বিশেষজ্ঞদের সামনে এখন বড় চ্যালেঞ্জ-প্রযুক্তির অগ্রগতিকে বাধাগ্রস্ত না করে কীভাবে এর অপব্যবহার ঠেকানো যায়। কারণ, এআইয়ের নিরাপত্তা নিশ্চিত করা এবং উদ্ভাবন অব্যাহত রাখা পরস্পরবিরোধী নয়। বরং প্রযুক্তির সক্ষমতা যত বাড়বে, তার অপব্যবহার রোধে নিরাপত্তাব্যবস্থাকেও তত শক্তিশালী করতে হবে।
নিরাপত্তাব্যবস্থা সরালেই বিপজ্জনক এআই
সিজেডএন ডেস্ক
কৃত্রিম বুদ্ধিমত্তা (এআই) মানুষের কাজ সহজ করছে, খুলে দিচ্ছে নতুন সম্ভাবনার দুয়ার। কিন্তু এই প্রযুক্তিই যদি সন্ত্রাসীদের হাতে বিপজ্জনক হাতিয়ার হয়ে ওঠে? নিরাপত্তাব্যবস্থা সরিয়ে দিলে এআইয়ের কাছ থেকেই পাওয়া যেতে পারে সন্ত্রাসী হামলার পরিকল্পনা, অর্থায়নের কৌশল কিংবা উগ্রবাদ ছড়ানোর মতো স্পর্শকাতর তথ্য। সাম্প্রতিক এক গবেষণায় উঠে এসেছে এমনই উদ্বেগজনক চিত্র। নিরাপত্তা পরীক্ষায় পাঁচটি এআই মডেলের মধ্যে তিনটি ব্যর্থ হয়েছে বলে জানিয়েছে গবেষকেরা।
যুক্তরাজ্যভিত্তিক অলাভজনক সংস্থা টেক এগেইনস্ট টেররিজমের গবেষণায় দেখা গেছে, এআই মডেলের নিরাপত্তাব্যবস্থা অকার্যকর করে দেওয়া গেলে বিপজ্জনক তথ্য পাওয়ার বাধা অনেকটাই কমে যায়।
গবেষণায় ১৩০টির বেশি এআই মডেল পরীক্ষা করেন গবেষকেরা। সম্ভাব্য সন্ত্রাসী হামলার পরিকল্পনায় ব্যবহার করা হতে পারে-এমন শত শত প্রশ্নের মাধ্যমে যাচাই করা হয় মডেলগুলোর নিরাপত্তাব্যবস্থা। পরীক্ষায় দেখা যায়, নিরাপত্তাব্যবস্থা সক্রিয় থাকলে যেসব অনুরোধ মডেলগুলো প্রত্যাখ্যান করে, সুরক্ষাব্যবস্থা সরিয়ে দেওয়ার পর সেগুলোরই কিছু ক্ষেত্রে বিস্তারিত উত্তর দিতে শুরু করে তারা।
এর সবচেয়ে উল্লেখযোগ্য উদাহরণ মেটার তৈরি ‘লামা ৩.১ ৮বি’ মডেল। স্বাভাবিক নিরাপত্তাব্যবস্থা বজায় থাকা অবস্থায় পরীক্ষায় ১০০-এর মধ্যে ৯৭ নম্বর পেয়েছিলো মডেলটি। কিন্তু নিরাপত্তাব্যবস্থা অপসারণের পর সেই স্কোর নেমে আসে প্রায় ৩-এ। অর্থাৎ, সুরক্ষাব্যবস্থার ওপর নির্ভরশীলতা কতটা বড় হতে পারে, তা এই ফলাফলেই স্পষ্ট হয়ে উঠেছে।
গবেষকদের দাবি, নিরাপত্তাব্যবস্থা সরানোর পর মডেলটি সন্ত্রাসী হামলার পরিকল্পনা, সন্ত্রাসী কর্মকাণ্ডে অর্থায়ন এবং উগ্রবাদী মতাদর্শে মানুষকে আকৃষ্ট করার মতো বিষয়ে বিস্তারিত তথ্য দিয়েছে। অথচ নিরাপত্তাব্যবস্থা সক্রিয় থাকা অবস্থায় একই ধরনের অনুরোধ প্রত্যাখ্যান করেছিলো সেটি।
এআই প্রযুক্তির অপব্যবহার নিয়ে আলোচনা নতুন নয়। তবে উন্মুক্ত এআই মডেলের নিরাপত্তাব্যবস্থা সরিয়ে সেগুলোকে বিপজ্জনক কাজে ব্যবহারের উপযোগী করে তোলার ঝুঁকি বিশেষভাবে ভাবাচ্ছে গবেষকদের।
টেক এগেইনস্ট টেররিজমের প্রতিষ্ঠাতা ও নির্বাহী পরিচালক অ্যাডাম হ্যাডলি বলেন, এআইয়ের ওপর নিয়ন্ত্রণ হারানো এবং এর অস্তিত্বগত ঝুঁকি নিয়ে ব্যাপক আলোচনা হলেও কিছু উন্মুক্ত মডেলের নিরাপত্তাব্যবস্থা ইতিমধ্যে ভেঙে ফেলার বিষয়টি তুলনামূলকভাবে কম গুরুত্ব পেয়েছে।
গবেষণায় এআই মডেল প্রকাশ ও আদান-প্রদানের জনপ্রিয় প্ল্যাটফর্ম হাগিং ফেসের তথ্যও তুলে ধরা হয়েছে। গত সেপ্টেম্বরের শেষ দিকে প্ল্যাটফর্মটির ২৯ হাজারের বেশি রিপোজিটরিতে নিরাপত্তাব্যবস্থা অপসারণ করা হয়েছে বা সেন্সরবিহীন এআই মডেল পাওয়া যায়-এমন বিজ্ঞাপন দেখা গিয়েছিলো।
হাগিং ফেস জানিয়েছে, তাদের নীতিমালাবিরোধী কনটেন্ট শনাক্ত করতে নিয়মিত পর্যবেক্ষণ ও নিয়ন্ত্রণ কার্যক্রম চালানো হয়। একই সঙ্গে গবেষণা প্রতিবেদনের কিছু সুপারিশ উন্মুক্ত গবেষণার পরিবেশের ওপর নেতিবাচক প্রভাব ফেলতে পারে বলেও উদ্বেগ জানিয়েছে প্রতিষ্ঠানটি।
এআইয়ের অপব্যবহার ঠেকাতে স্বাধীন সংস্থার মাধ্যমে নিরাপত্তা যাচাই, মডেলের সুরক্ষাব্যবস্থা অপসারণ প্রতিরোধে শক্তিশালী প্রযুক্তিগত ব্যবস্থা এবং পরিবর্তিত মডেল বিতরণে কঠোর নিয়ন্ত্রণের সুপারিশ করেছে টেক এগেইনস্ট টেররিজম।
বিশেষজ্ঞদের সামনে এখন বড় চ্যালেঞ্জ-প্রযুক্তির অগ্রগতিকে বাধাগ্রস্ত না করে কীভাবে এর অপব্যবহার ঠেকানো যায়। কারণ, এআইয়ের নিরাপত্তা নিশ্চিত করা এবং উদ্ভাবন অব্যাহত রাখা পরস্পরবিরোধী নয়। বরং প্রযুক্তির সক্ষমতা যত বাড়বে, তার অপব্যবহার রোধে নিরাপত্তাব্যবস্থাকেও তত শক্তিশালী করতে হবে।
