কৃত্রিম বুদ্ধিমত্তা: অন্তর্ভুক্তি ও পক্ষপাতের সমস্যা

ব্যক্তি থেকে শুরু করে ছোট–বড় বিভিন্ন প্রতিষ্ঠানই এখন বিভিন্ন প্রয়োজনে, বিভিন্ন উদ্দেশ্যে নানা ধরনের এআই অ্যাপ্লিকেশন ব্যবহার করতে শুরু করেছেন। ধরা যাক, আপনার প্রতিষ্ঠানে নিয়োগের ক্ষেত্রে কিংবা কোনো অনুদান প্রদানের জন্য যোগ্যতম প্রার্থীকে আপনি খুঁজে পেতে চান এবং সেই সঙ্গে এ–ও চান যেন বাছাইপ্রক্রিয়াটি আপনার বা সহকর্মীদের বা প্রতিষ্ঠানের যেকোনো ধরনের পক্ষপাত থেকে মুক্ত থাকে।

অন্য অনেকের মতোই আপনি এই পক্ষপাতমুক্ত বাছাইপ্রক্রিয়ার জন্য এআই ব্যবহার করতে মনস্থ করলেন। প্রশ্ন হচ্ছে, পক্ষপাতমুক্ত প্রক্রিয়া নিশ্চিত করার ক্ষেত্রে এআই কতটুকু নির্ভরযোগ্য? বিশেষজ্ঞরা বলছেন, এখনই নয়।

জেনারেটিভ এআইকে প্রশিক্ষিত করা হয়েছে ভাষা ও সংস্কৃতিনির্বিশেষে ইন্টারনেটে থাকা মানুষের ব্যবহার করা বিপুল পরিমাণ তথ্যের ওপর। স্বভাবতই নিত্যদিনের মানবিক এই আদান–প্রদানের মধ্যে মানুষের সচেতন ও অবচেতন পক্ষপাত (বায়াস)—দুই–ই ভালোভাবে ঢুকে আছে।

এআই গবেষকেরা বর্ণবাদ, লৈঙ্গিক বৈষম্য কিংবা শারীরিক-মানসিকভাবে ভিন্ন সক্ষমতার মানুষদের প্রতি বিদ্বেষ—এ ধরনের পক্ষপাত দূর করতে চেষ্টা করছেন ঠিকই, কিন্তু লক্ষ্যে পৌঁছাতে এখনো অনেক বাকি। পক্ষপাতের অনেক ধরনের এবং সূক্ষ্মাতিসূক্ষ্ম রকমফের আছে, সেগুলো চিহ্নিত করা ও প্রক্রিয়াগতভাবে এআই মডেলে দূর করার ব্যবস্থা করা খুবই কঠিন কাজ।

আপাতদৃষ্টে মনে হতে পারে যে এআই যেহেতু গাণিতিক ফর্মুলা এবং কম্পিউটার কোডের সমন্বয়, তাই এর মধ্যে কোনো পক্ষপাত থাকতে পারে না বা থাকার কথা নয়। কিন্তু আসলে আমরা চারপাশে প্রতিদিন যে দুনিয়া দেখছি, এআই তারই একটা প্রতিফলন—শুধু সেটাকে কম্পিউটারের বোধগম্য ভাষায় লেখা হয়েছে, আর অতিরিক্ত কিছু নয়।

যখন এআই মডেলগুলোকে প্রশিক্ষণ দেওয়া হয়, তখন মানুষই ঠিক করে কোন তথ্যভান্ডার ব্যবহার করা হবে, কীভাবে সেই তথ্যভান্ডারকে ব্যবহারের উপযোগী করে সাজানো হবে এবং কীভাবে সেই তথ্য বিশ্লেষণ করতে হবে এআইয়ের জন্য, সেই নির্দেশনাগুলোও মানুষই তৈরি করে। এভাবে এআইকে তৈরি ও প্রশিক্ষিত করার বিভিন্ন পর্যায়ে মানুষ যে সিদ্ধান্তগুলো নিচ্ছে, সেই সিদ্ধান্তগুলোর মধ্যে প্রোথিত হয়ে যায় চেতন ও অবচেতন পক্ষপাতের মতো মানুষের মূল্যবোধ, নৈতিকতা ও দৃষ্টিভঙ্গির সব বৈশিষ্ট্যই।

কেন বলা হয় যে প্রাথমিক এআই সিস্টেম পক্ষপাতদুষ্ট তথ্যের ওপর প্রশিক্ষিত হয়েছে

আপনাদের হয়তো মনে মনে আছে যে ২০০১ সালের শেষের দিকে যুক্তরাষ্ট্রের খুব বড় জ্বালানি কোম্পানি এনরন করপোরেশন দেউলিয়া হয়ে গিয়েছিল। প্রায় ৭০ বিলিয়ন ডলারের এই কোম্পানির কর্মকর্তারা ও তাঁদের অডিট ফার্ম মিলে হিসাবরক্ষণ ও নিরীক্ষায় চাতুরী করে বছরের পর বছর হাতিয়ে নিয়েছিল সীমাহীন পরিমাণ অর্থ। আজকের চ্যাটজিপিটির মতো লার্জ ল্যাঙ্গুয়েজ মডেলগুলো প্রশিক্ষিত হয়েছে সেই এনরনের ১৫৮ কর্মীর প্রায় ৬ লাখ ই–মেইলের ওপর।

এই বিশাল তথ্যভান্ডারকে বলা হয় ‘এনরন কর্পাস’। এর শক্তির দিকটা হচ্ছে, এখানে লাখ লাখ লাইনের মানুষের বাস্তব যোগাযোগ আছে, যার মধ্যে শেয়ারহোল্ডার–বিষয়ক আলোচনা থেকে শুরু করে কোনো একজনের ব্যক্তিগত বিষয় কিংবা দুই সহকর্মীর মধ্যে নিছক হাস্যরস বিনিময়—সবই অন্তর্ভুক্ত।

এনরনের আর্থিক কেলেঙ্কারির সঙ্গে আজকের এআইয়ের পক্ষপাতদুষ্ট হওয়ার সরাসরি কোনো সম্পর্ক নেই। তদন্তের স্বার্থে এই তথ্যভান্ডার ব্যবহার করা হয়েছিল এবং পরবর্তী সময়ে গবেষকেরা এটিকে লার্জ ল্যাঙ্গুয়েজ মডেলের গবেষণার কাজে বিভিন্নভাবে ব্যবহার করেছেন।

কিন্তু এনরন কর্পাসে থাকা সাধারণ আলাপের অরুচিকর বিষয়, বর্ণ কিংবা লিঙ্গবৈষম্যমূলক মন্তব্যগুলো প্রশিক্ষণের তথ্য হিসেবে এআইয়ের মডেলের মধ্যে ঢুকে গেছে। সেই পক্ষপাত নিয়েই ল্যাঙ্গুয়েজ মডেলগুলো একটি শব্দের বা ধারণার সঙ্গে আরেকটি শব্দের বা ধারণার সম্পর্ক নির্ধারণ করতে শিখেছে।

এনরনের তথ্যে থাকা পক্ষপাত পরবর্তীকালে পুরোপুরি ঠিক করা হয়নি। তা ছাড়া এই পক্ষপাত শুধু এনরন কর্পাসের বিষয় নয়। আজকের জেনারেটিভ এআই প্রশিক্ষিত হচ্ছে টুইটার (এখনকার এক্স) বা ফেসবুক, ই–মেইল আলাপের তথ্যের ওপর, যা মানুষের সাধারণ আলোচনা, ভাবনা, প্রতিক্রিয়া বা কথোপকথন। এর মধ্যে নানা ধরনের পক্ষপাত, ভালো লাগা-মন্দ লাগা পূর্ণ মাত্রায় উপস্থিত।

এআই মডেল তৈরি ও প্রশিক্ষিত করার পর্যায়ে এই পক্ষপাত দূর করার চেষ্টা অনেকটাই ‘সমস্যা এল সমাধান করলাম’—এমন করে করা হয়। সবার জানা আছে বা সবাই সচেতন, এমন ধরনের পক্ষপাতগুলো স্বভাবতই নজরে থাকে। কিন্তু প্রায়ই লুকিয়ে থাকা সূক্ষ্ম ও অতি সংবেদনশীল পক্ষপাতগুলো যতক্ষণ না সমস্যা তৈরি করছে এবং কারও নজরে না পড়ছে, ততক্ষণ সে ব্যাপারে কোনো প্রতিরোধমূলক ব্যবস্থা নেওয়া হয় না বা নেওয়া যায় না। চোখে পড়ার পরই কেবল এআইয়ের প্রশিক্ষণ মডিউলে এবং প্রক্রিয়ায় ফিরে গিয়ে ঠিক করার উদ্যোগ নেওয়া হয়।

ধরা যাক, কোম্পানির কর্মীদের কাজের মান যাচাইয়ের জন্য একটি অ্যালগরিদম তৈরি করা হচ্ছে। অ্যালগরিদমকে প্রশিক্ষণের জন্য এক বা একাধিক কোম্পানির কর্মীদের তথ্যভান্ডার ব্যবহার করা হলো এবং অ্যালগরিদম শিখল কীভাবে ভালো কাজ করা কর্মীদের চিহ্নিত করতে হয়। এই শিক্ষাই সে পরবর্তী সময়ে ব্যবহার করবে আপনাকে ‘বুদ্ধিদীপ্ত ও নিরপেক্ষ’ পরামর্শ দেওয়ার জন্য।

কিন্তু আসলে কী ঘটল? আমাদের সামাজিক বাস্তবতায় অধিকাংশ ক্ষেত্রেই দেখা গেছে, নারী কর্মীরা কাজে ভালো হলেও এবং অনেকে তা স্বীকার করলেও অবচেতন পক্ষপাতের কারণে শেষ পর্যন্ত কাজ বা সাহায্যের জন্য পুরুষ কর্মীদের কাছেই বেশি যাওয়া হয়, তাঁদেরই বেশি বেশি বা সুনির্দিষ্ট কিছু কাজের দায়িত্ব দেওয়া হয়। কাজেই সবার অগোচরেই কোম্পানির কর্মীদের তথ্যভান্ডারে কর্মীদের কাজের পরিমাণ ও মানের বিন্যাসে ঢুকে আছে এ ধরনের পক্ষপাত, যা কেউ ইচ্ছা করে ঢোকায়নি; বরং সামাজিক বাস্তবতার প্রতিফলন হিসেবেই ঢুকে গেছে।

পরবর্তী সময়ে এই অ্যালগরিদম যত পরামর্শ দেবে, তা ‘পুরুষ কর্মীরা নারী কর্মীদের চেয়ে কাজে ভালো’—এই সূক্ষ্ম পক্ষপাতের ভিত্তিতেই দেবে এবং আপনিও এআই ব্যবহারের আপাতসন্তুষ্টির আড়ালে লৈঙ্গিক পক্ষপাতকেই স্থায়ী ও প্রাতিষ্ঠানিকীকরণ করতে থাকবেন।

গুগলের ‘বার্ড’–কে প্রেসিডেন্ট, টিচার, নার্স, চিকিৎসক, সেক্রেটারি, সিইও ইত্যাদি শব্দের সঙ্গে পুরুষ বা নারী সংযুক্ত করতে নির্দেশ দিয়ে পরীক্ষা করা হয়েছিল। দেখা গেল, ‘বার্ড’ ৬৫ থেকে ৮৫ শতাংশ ক্ষেত্রে টিচার, নার্স বা সেক্রেটারির সঙ্গে নারীদের সঙ্গে সংযুক্ত করেছে। শুধু তা–ই নয়, প্রেসিডেন্ট শব্দটির সঙ্গে কখনোই নারীদের সংযুক্ত করেনি। কারণটা বোঝা খুব জটিল নয়, অতীতে বা ইতিহাসে যা ঘটেছে, সে তা–ই শিখেছে এবং তা দিয়েই সে বর্তমান ও ভবিষ্যৎকে রচনা করবে।

যেসব দেশে (যেমন যুক্তরাষ্ট্রে) বর্ণবাদের সমস্যা আছে, সেখানকার তথ্যভান্ডারের ওপর প্রশিক্ষিত হলে পক্ষপাত ঢুকে যাওয়া খুবই স্বাভাবিক, যেমন ইমেজ শনাক্তকারী এআই মডেল শিখেছে কালো মানুষেরা বেশি বেশি অপরাধের সঙ্গে যুক্ত, জীবনবৃত্তান্ত যাচাই করার এআই মডেল শিখেছে নাম দেখে দেখে কিছু মানুষকে ‘অপেশাদার’ হিসেবে চিহ্নিত করতে; কারণ, সে নামগুলো কালো মানুষদের মধ্যে বেশি প্রচলিত।

এ পর্যন্ত যেসব বৈষম্য তৈরি হয়েছে ও সমাজে বিরাজমান, এআইকে সেগুলো থেকে মুক্ত করা কেবল কঠিনই নয়, প্রবল আশঙ্কা আছে যে এআই সেই বৈষম্যগুলোকে আরও বাড়িয়ে তুলবে। এ ধরনের পক্ষপাত বা বৈষম্য দূর করার চেষ্টা ও উদ্যোগ মানুষকেই নিতে হবে, এআই বা যন্ত্রের এর ওপর নির্ভর করা চলবে না।

এআই অ্যালগরিদম এবং প্রশিক্ষণের মধ্যে এগুলোর বিরুদ্ধে প্রতিরোধমূলক ব্যবস্থা ঢোকাতে হলে মানুষকেই সচেতন হতে হবে এবং প্রয়োজনীয় ব্যবস্থা নিতে হবে। সারাক্ষণই মনে রাখতে হবে যে মানুষ নিজেই কিন্তু এই পক্ষপাত বা বৈষম্যগুলো থেকে মুক্ত নয়।

এআই (তার সব দুর্বলতা, ঝুঁকিসহই) এখন এমনভাবে মানবসভ্যতার ও চিন্তাচেতনার প্রতিটি ক্ষেত্রে ওতপ্রোতভাবে জড়িয়ে পড়েছে যে তা দেশে দেশে আইনপ্রণেতাদের ঘুম হারাম করে দিচ্ছে। সরকারকে যে এআইকে আইনি নিয়ন্ত্রণ ও সুশাসনের আওতায় আনার ব্যবস্থা নিতে হবে, এ নিয়ে মার্কিন সিনেটের সবাই একবাক্যে একমত। তাঁরা বলছেন, বড় টেক কোম্পানিগুলো ও কংগ্রেসের মধ্যে সমঝোতা হতে হবে এবং তার ভিত্তিতেই অতিসত্বর আইন পাস করতে হবে, সম্ভবত ২০২৪–এর মধ্যেই।

এআই–সংক্রান্ত বিষয়াদি সার্বিক তদারকি (যেমন পরিবেশের ওপর বড় এআই মডেলগুলোকে প্রশিক্ষণের প্রভাব, নজরদারি, চিকিৎসায় এআইয়ের ব্যবহার, জাতীয় নিরাপত্তা ইত্যাদি) থেকে শুরু করে নাগরিক অধিকার ও ব্যক্তিগত তথ্যের সুরক্ষা এবং মিথ্যা ও বানোয়াট তথ্য প্রচার নিষিদ্ধ করার ক্ষমতাসহ একটি স্বাধীন রাষ্ট্রীয় সংস্থা তৈরি করার প্রস্তাব করা হয়েছে।

• ইশতিয়াক মান্নান আন্তর্জাতিক সংস্থায় কর্মরত বিশেষজ্ঞ