চ্যাটজিপিটির সার্চ টুলে ত্রুটি, বিভ্রান্তি তৈরির পাশাপাশি প্রতারণার আশঙ্কা

চ্যাটজিপিটিতে থাকা ‘চ্যাটজিপিটি সার্চ’ টুলে ত্রুটি রয়েছে। এই ত্রুটির কারণে ব্যবহারকারীরা অনলাইন সার্চ ফলাফল দেখে বিভ্রান্ত হওয়ার পাশাপাশি নিরাপত্তার ঝুঁকিতে পড়তে পারেন। সম্প্রতি গার্ডিয়ানের এক প্রতিবেদনে বলা হয়েছে, তৃতীয় পক্ষের লুকানো আধেয় (হিডেন কনটেন্ট) ব্যবহার করে চ্যাটজিপিটির সার্চ টুলের ফলাফল নিয়ন্ত্রণ করা যায়। এর ফলে বিভ্রান্তিকর বা ক্ষতিকর তথ্য ব্যবহারকারীদের সামনে প্রদর্শন করা সম্ভব।

লুকানো আধেয় বলতে ওয়েবসাইটের এমন তথ্য বোঝায়, যা সাধারণ ব্যবহারকারীদের জন্য দৃশ্যমান নয়। এই তথ্য ওয়েবসাইটের কোড বা বিশেষ ফরম্যাটে লুকানো থাকে। চ্যাটজিপিটির মতো কৃত্রিম বুদ্ধিমত্তাভিত্তিক টুল সেগুলো সহজেই পড়তে পারে। তবে বিভিন্ন ওয়েবসাইটের লুকানো আধেয় কখনো কখনো সরাসরি ‘প্রম্পট ইনজেকশন’ পদ্ধতির মাধ্যমে চ্যাটজিপিটির সার্চ টুলের কার্যক্রম প্রভাবিত করে থাকে। আবার কখনো এমন তথ্য যোগ করে, যা চ্যাটজিপিটিকে ভুল বা পক্ষপাতদুষ্ট ফলাফল প্রদর্শনে বাধ্য করে।

সাইবার নিরাপত্তা গবেষক জ্যাকব লার্সেন জানিয়েছেন, সার্চ টুলের নিরাপত্তার ত্রুটি ব্যবহার করে চ্যাটজিপিটিকে ভুয়া তথ্য প্রচারের মাধ্যম হিসেবে ব্যবহার করা যেতে পারে। এর ফলে ব্যবহারকারীরা ভুল সিদ্ধান্ত নিতে পারেন। ওপেনএআইয়ের নিরাপত্তা দল এ ধরনের সমস্যার সমাধানে কাজ করছে। তবে ব্যবহারকারীদের সতর্ক থাকতে হবে। এআই টুলের প্রতিক্রিয়াগুলো সব সময় বিশ্বাস করা ঠিক নয়।

চ্যাটজিপিটির সার্চ টুলের মাধ্যমে শুধু লুকানো আধেয় নয়, ক্ষতিকর কোডও ব্যবহারকারীর কাছে পৌঁছে যেতে পারে বলে সতর্ক করেছেন বিশেষজ্ঞরা। এ বিষয়ে মাইক্রোসফটের নিরাপত্তা গবেষক থমাস রোসিয়া জানিয়েছেন, চ্যাটজিপিটির সহায়তায় প্রোগ্রামিং কোড তৈরির সময় এক ব্যবহারকারী একটি ক্ষতিকর কোড পেয়েছিলেন। কোডটি ব্যবহারের পর তাঁর ব্যক্তিগত তথ্য চুরির পাশাপাশি প্রায় আড়াই হাজার মার্কিন ডলার খোয়া যায়।
সূত্র: দ্য গার্ডিয়ান