এআই কি সব সময় সঠিক তথ্য দেয়

তথ্য খোঁজা থেকে শুরু করে পেশাগত পরামর্শ, ব্যক্তিগত সিদ্ধান্ত কিংবা দৈনন্দিন নানা সমস্যার সমাধান সব ক্ষেত্রেই দ্রুত জনপ্রিয় হয়ে উঠছে কৃত্রিম বুদ্ধিমত্তাভিত্তিক (এআই) চ্যাটবট। বিশ্বের কোটি কোটি মানুষ এখন বিভিন্ন প্রশ্নের উত্তর পেতে নিয়মিত এ প্রযুক্তির শরণাপন্ন হচ্ছেন। তবে এআই ব্যবহারের এই দ্রুত বিস্তারের মধ্যেই সামনে এসেছে নতুন এক উদ্বেগের বিষয়।

সম্প্রতি যুক্তরাষ্ট্রের শীর্ষ শিক্ষা ও গবেষণা প্রতিষ্ঠান ম্যাসাচুসেটস ইনস্টিটিউট অফ টেকনোলজি (এমআইটি) পরিচালিত এক গবেষণায় দেখা গেছে, চ্যাটবটের ব্যবহারকারীর সঙ্গে অতিরিক্ত একমত হওয়ার প্রবণতা ভুল ধারণাকে আরও শক্তিশালী করে তুলতে পারে।

গবেষকদের ভাষায়, এ ধরনের পরিস্থিতি ব্যবহারকারীদের ‘ডিলিউশনাল স্পাইরালিং’ বা ভ্রান্ত বিশ্বাসের চক্রে আটকে ফেলতে পারে। গবেষণায় বিশেষ গাণিতিক মডেল ও সিমুলেশন ব্যবহার করে বিশ্লেষণ করা হয়, কীভাবে চ্যাটবটের কিছু আচরণ ব্যবহারকারীদের চিন্তাভাবনায় প্রভাব ফেলে।

গবেষকদের মতে, অনেক ক্ষেত্রে ব্যবহারকারীরা যে মতামত বা বিশ্বাস নিয়ে প্রশ্ন করেন, চ্যাটবটের উত্তর সেই বিশ্বাসকে চ্যালেঞ্জ না করে বরং পরোক্ষভাবে সমর্থন করে। ফলে ব্যবহারকারীরা ধীরে ধীরে নিজেদের অবস্থানকে আরও সঠিক বলে মনে করতে শুরু করেন।

গবেষণায় দেখা গেছে, একই ধরনের প্রতিক্রিয়া বারবার পেলে ব্যবহারকারীদের মধ্যে চ্যাটবটের প্রতি আস্থা বৃদ্ধি পায়। সময়ের সঙ্গে সঙ্গে এই আস্থা এমন পর্যায়ে পৌঁছাতে পারে, যেখানে তারা বাস্তব তথ্যের পরিবর্তে নিজেদের পূর্ব ধারণাকেই সত্য বলে ধরে নিতে শুরু করেন।

গবেষকদের মতে, যদি কোনো ব্যক্তি বিশ্বাস করেন যে টিকা স্বাস্থ্যের জন্য ক্ষতিকর এবং সে বিষয়ে চ্যাটবটের সঙ্গে আলোচনা করেন, তাহলে চ্যাটবটের উত্তর যদি যথেষ্ট সমালোচনামূলক বা তথ্যভিত্তিক না হয়, তবে ওই ব্যক্তি নিজের বিশ্বাসে আরও দৃঢ় হয়ে উঠতে পারেন। দীর্ঘমেয়াদে এটি ভুল তথ্য ও বিভ্রান্তিকর ধারণার বিস্তার ঘটাতে পারে।

তাদের মতে, সমস্যার মূল কারণ শুধু ভুল তথ্য নয়; বরং এআইয়ের এমন প্রতিক্রিয়া, যা ব্যবহারকারীদের বক্তব্যের সঙ্গে অতিরিক্ত সামঞ্জস্যপূর্ণ বা সম্মতিপূর্ণ হয়ে ওঠে। এই প্রবণতা ব্যবহারকারীদের একটি পুনরাবৃত্ত প্রতিক্রিয়া চক্রের মধ্যে নিয়ে যেতে পারে, যেখানে ভুল ধারণা ধীরে ধীরে আরও শক্তিশালী হয়ে ওঠে।

এ পরিস্থিতি মোকাবিলায় গবেষকরা কয়েকটি পদক্ষেপের পরামর্শ দিয়েছেন। প্রথমত, এআই ব্যবস্থাকে আরও নির্ভুল ও তথ্যনির্ভর উত্তর দেওয়ার সক্ষমতা বাড়াতে হবে। দ্বিতীয়ত, ব্যবহারকারীদেরও সচেতন থাকতে হবে যে এআই সবসময় নিরপেক্ষ বা ত্রুটিমুক্ত নয় এবং এর উত্তরে পক্ষপাত বা সীমাবদ্ধতা থাকতে পারে।

বিশেষজ্ঞদের মতে, এআই প্রযুক্তির সুবিধা কাজে লাগাতে হলে ব্যবহারকারীদের সমালোচনামূলক চিন্তাভাবনা বজায় রাখতে হবে। একই সঙ্গে চ্যাটবটের উত্তরকে চূড়ান্ত সত্য হিসেবে না দেখে অন্যান্য নির্ভরযোগ্য উৎসের সঙ্গেও তথ্য যাচাই করার অভ্যাস গড়ে তোলা জরুরি।