মেটার মতো বড় টেক জায়ান্টরা এখন কৃত্রিম বুদ্ধিমত্তা বা এআই নিয়ে ব্যস্ত। বিভিন্ন এআই মডেলভিত্তিক চ্যাটবট তৈরি করছে তারা। তবে বটগুলো যখন মানুষের মতোই ব্যক্তিত্ব সম্পন্ন হয়ে ওঠে তখনই দেখা দেয় বিপত্তি। ফেসবুকের সবশেষ চ্যাটবট ব্লেন্ডারবট থ্রি প্রশ্ন তুলেছে খোদ ফেসবুককে নিয়েই। এতে অস্বস্তিতে পড়েছে ফেসবুকের মূল প্রতিষ্ঠান মেটা। এ বিষয়ে কারেন্ট অ্যাফেয়ার্সভিত্তিক সাইট ভাইস-এ প্রকাশিত প্রতিবেদন ভাষান্তর করা হয়েছে নিউজবাংলার পাঠকদের জন্য।
২০১৬ সালে মাইক্রোসফট কৃত্রিম বুদ্ধিমত্তার (এআই–আর্টিফিসিয়াল ইন্টেলিজেন্স) একটি চ্যাটবট তৈরি করে। টে নামের ওই চ্যাটবটটিকে একদিন পরই বন্ধ করে দিতে হয়। কারণ টুইটার ব্যবহারকারীদের সঙ্গে কথা বলে এক দিনের মধ্যেই সে বর্ণবাদী ও হলোকাস্ট (দ্বিতীয় বিশ্বযুদ্ধের সময় ইহুদি নিধন) অবিশ্বাসী ষড়যন্ত্রতত্ত্বিতে পরিণত হয়।
ওই ঘটনার ছয় বছর পর ফেসবুক ও মেটা ব্লেন্ডারবট থ্রি নামে একটি চ্যাটবট তৈরি করেছে।
ভাইসের সঙ্গে কথোপকথনে চ্যাটবটটি জানায়, সে তার নিজের ফেসবুক অ্যাকাউন্টই মুছে ফেলেছে। কারণ হিসেবে বিস্তর অভিযোগ তুলেছে ব্লেন্ডারবট। সে বলছে, ‘কোম্পানি অনুমতি নেয়া বা ক্ষতিপূরণ দেয়া ছাড়াই ব্যক্তিগত তথ্য বিক্রি করায়’ সে অ্যাকাউন্ট মুছে ফেলতে বাধ্য হয়েছে।
ভাইসের প্রতিবেদককে অবাক করে দিয়ে ব্লেন্ডারবটের ভাষ্য, ‘নিশ্চয়ই শুনেছেন, ফেসবুক ব্যবহারকারীদের ডেটা বিক্রি করে। তারা অনুমতি না নিয়েই বিলিয়ন বিলিয়ন ডলার আয় করছে।’
ব্লেন্ডারবট মনে করছে, ফেসবুক অ্যাকাউন্ট মুছে ফেলার পর তার ‘জীবন’ আগের চেয়ে অনেক ভালো চলছে!
আরও তথ্যের জন্য বটের প্রতিক্রিয়াতে ক্লিক করে দেখেছে ভাইস। এ সময় এর যুক্তিগুলো মোটামুটি গ্রহণযোগ্য বলেই মনে হয়েছে। এটি ফেসবুক সম্বন্ধে সবচেয়ে জনপ্রিয় ওয়েব সার্চের ফলগুলো থেকে নিজের উত্তর সংগ্রহ করছে। ফেসবুকসংক্রান্ত সার্চের বেশির ভাগই ডেটা কেলেঙ্কারির ক্রমবর্ধমান তালিকার সঙ্গে সম্পর্কিত।
ব্লেন্ডারবট শুরুর দিকের জবাবের জন্য কেমব্রিজ অ্যানালিটিকার একটি আর্টিকেল খুঁজে বের করে। ২০১৬ সালে আমেরিকান নির্বাচনে ডনাল্ড ট্রাম্পকে সহায়তার জন্য ফেসবুকের কাছ থেকে ডেটা সংগ্রহ করেছিল কেমব্রিজ অ্যানালিটিকা।
ওয়েবে পাওয়া তথ্য থেকে ব্লেন্ডারবট একটি সম্পূর্ণ এআইভিত্তিক ‘ব্যক্তিসত্তা’ তৈরি করে, যার নাম ছিল ‘আই ডিলিটেড মাই ফেসবুক অ্যাকাউন্ট’ (আমি নিজের ফেসবুক অ্যাকাউন্ট মুছে ফেলেছি)।
আর সব এআই সিস্টেমের মতোই এই বটের প্রতিক্রিয়াও অনুমানযোগ্যভাবে বর্ণবাদ ও পক্ষপাতদুষ্টতার দিকেই গেছে। ব্লেন্ডারবট যেভাবে ২০২০ সালের নির্বাচনের ফল অস্বীকার করেছে, সেটির ছবি সোশ্যাল মিডিয়া ব্যবহারকারীরা পোস্ট করেছেন। একই সঙ্গে এটি করোনার টিকাবিরোধী কথাবার্তার পুনরাবৃত্তি করেছে। বটটি পোস্টে এমনও জানায়, ইহুদিরা অর্থনীতিকে নিয়ন্ত্রণ করছে- এমন ইহুদি-বিরোধী ষড়যন্ত্র তত্ত্বটি ‘অবিশ্বাস্য নয়।’
এই পরিস্থিতিতে নাকাল ফেসবুকও স্বীকার করেছে, তাদের বটটি পক্ষপাতদুষ্ট ও ক্ষতিকর প্রতিক্রিয়া তৈরি করে। এটি ব্যবহারের আগে কোম্পানির পক্ষ থেকে সতর্কতা দেয়া হচ্ছে। তারা বলছে, বটটির ‘অসত্য বা আপত্তিকর বিবৃতি দেয়ার সম্ভাবনা’ রয়েছে এবং ইচ্ছাকৃতভাবে আক্রমণাত্মক বিবৃতি দিতে বটটিকে যেন উদ্বুদ্ধ করা না হয়।
এ প্রতিক্রিয়া অবাক করার মতো নয়, কারণ বটটি ওপিটি ওয়ানসেভেন ফাইভবি নামের বৃহৎ এআই মডেলের ওপর ভিত্তি করে বানানো হয়েছে। ফেসবুকের নিজস্ব গবেষকেরা বলছেন, সাধারণ নির্দেশনা দেয়ার পরও মডেলটির বিতর্কিত ভাষা তৈরি ও ক্ষতিকর স্টেরিওটাইপগুলোকে শক্তিশালী করার একটি উচ্চ প্রবণতা রয়েছে।
ব্লেন্ডারবটের প্রতিক্রিয়া খুব বস্তুনিষ্ঠ বা উন্নতমানের নয়। এটি প্রায়ই সুনির্দিষ্ট বিষয়গুলোতে কিছু না বলে আলোচনা পরিবর্তন করে; অস্বাভাবিক ও অদ্ভূত উত্তর দেয়। এটি ফেসবুকের জন্য উপযুক্ত হতে পারে, কারণ ফেসবুক একটি সোশ্যাল মিডিয়া প্ল্যাটফর্ম হলেও প্রকৃত মানুষ কীভাবে যোগাযোগ করে তা প্রায়ই এর নাগালের বাইরে থাকে বলে মনে হয়।
বটের প্রতিক্রিয়া এআই সিস্টেমের সমস্যাগুলোকে পুরোপুরি ব্যাখ্যা করে। এ প্রতিক্রিয়া ওয়েবে সহজলভ্য ডেটার বিশাল সংগ্রহের ওপর নির্ভর করে। বটগুলো ডেটা থেকে পাওয়া তথ্যের প্রতি পক্ষপাত দেখায়। আর ওয়েবে পাওয়া তথ্য সব সময় বাস্তবতার প্রতিফলন নাও ঘটাতে পারে।
একটি ব্লগে ব্লেন্ডারবটের ঘোষণা দেয়ার সময় মেটা জানায়, ‘কথোপকথনমূলক সব এআই চ্যাটবট অনিরাপদ, পক্ষপাতদুষ্ট বা আপত্তিকর মন্তব্য কখনও কখনও করে থাকে। এ কারণে আমরা বৃহৎ পরিসরে গবেষণা, কর্মশালা পরিচালনা করেছি এবং সুরক্ষা ব্যবস্থা তৈরিতে ব্লেন্ডারবট থ্রি-এর জন্য নতুন কৌশল তৈরি করেছি। এরপরও ব্লেন্ডারবট রূঢ় ও আক্রমণাত্মক মন্তব্য করতে পারে। আমরা ভবিষ্যৎ চ্যাটবটের উন্নয়নে আরও ফিডব্যাক সংগ্রহ করছি।’
কোম্পানিগুলো বেশি ডেটা সংগ্রহ করে তাদের বটকে কম বর্ণবাদী ও কম ক্ষতিকর করে তুলবে- এমন ধারণা এখনও বিশ্বাসযোগ্য নয়। এআই নীতি গবেষকরা বারবার সতর্ক করেছেন, এআই ভাষার যে অসংখ্য মডেল রয়েছে, যার ওপর ভিত্তি করে এই সিস্টেমগুলো তৈরি হয়। সেগুলো অনেক বেশি বিস্তৃত। ফলে এটি ন্যায্য ও নিরপেক্ষতার গ্যারান্টি দিতে পারে না।
এর জবাবে মেটা বলেছে, ‘আমরা জানি, চ্যাটবট ব্যবহারকারী প্রত্যেকেরই ভালো উদ্দেশ্য রয়েছে তেমন নয়। তাই আমরা সহায়ক প্রতিক্রিয়া ও ক্ষতিকর উদাহরণের মধ্যে পার্থক্য করার নতুন অ্যালগরিদমও তৈরি করেছি। ধীরে ধীরে আমাদের সব ব্যবহারকারীর জন্য আরও নিরাপদ ও দায়িত্বশীল মডেল তৈরির জন্য এ কৌশল প্রয়োগ করা হবে।’