OpenAI বৃহস্পতিবার সতর্ক করে দিয়েছিল যে ChatGPT-এর জন্য সম্প্রতি প্রকাশিত ভয়েস মোড বৈশিষ্ট্যের ফলে ব্যবহারকারীরা কৃত্রিম বুদ্ধিমত্তা (AI) মডেলের সাথে সামাজিক সম্পর্ক তৈরি করতে পারে। তথ্যটি কোম্পানির সিস্টেম কার্ডের অংশ ছিল GPT-4oযা কোম্পানির পরীক্ষা ও অন্বেষণ করা AI মডেলের সম্ভাব্য ঝুঁকি এবং সম্ভাব্য সুরক্ষার বিষয়ে একটি বিশদ বিশ্লেষণ। অনেক ঝুঁকির মধ্যে, একটি ছিল চ্যাটবটকে নৃতাত্ত্বিককরণ এবং এটির সাথে সংযুক্তি বিকাশের সম্ভাবনা। প্রাথমিক পরীক্ষার সময় এটির লক্ষণগুলি লক্ষ্য করার পরে ঝুঁকি যুক্ত করা হয়েছিল।
ChatGPT ভয়েস মোড ব্যবহারকারীদের AI এর সাথে সংযুক্ত করতে পারে
একটি বিস্তারিত প্রযুক্তিগত মধ্যে নথি সিস্টেম কার্ড লেবেলযুক্ত, OpenAI GPT-4o এর সাথে সম্পর্কিত সামাজিক প্রভাবগুলি এবং এ পর্যন্ত প্রকাশিত এআই মডেল দ্বারা চালিত নতুন বৈশিষ্ট্যগুলিকে হাইলাইট করেছে। এআই ফার্ম হাইলাইট করেছে যে অ্যানথ্রোমরফিজেশন, যার মানে মূলত মানবিক বৈশিষ্ট্য বা আচরণকে অ-মানব সত্ত্বাকে দায়ী করা।
ওপেনএআই উদ্বেগ উত্থাপন করেছে যে যেহেতু ভয়েস মোড একজন প্রকৃত মানুষের মতো বক্তৃতা এবং আবেগ প্রকাশ করতে পারে, এর ফলে ব্যবহারকারীরা এটির সাথে সংযুক্তি তৈরি করতে পারে। আশঙ্কাও ভিত্তিহীন নয়। এর প্রাথমিক পরীক্ষার সময় যার মধ্যে রেড-টিমিং (একটি নৈতিক হ্যাকারদের ব্যবহার করে পণ্যের উপর দুর্বলতা পরীক্ষা করার জন্য আক্রমণ অনুকরণ করা) এবং অভ্যন্তরীণ ব্যবহারকারী পরীক্ষা, কোম্পানি এমন উদাহরণ খুঁজে পেয়েছে যেখানে কিছু ব্যবহারকারী AI এর সাথে একটি সামাজিক সম্পর্ক তৈরি করছে।
একটি বিশেষ উদাহরণে, এটি একজন ব্যবহারকারীকে ভাগ করা বন্ধন প্রকাশ করে এবং এআই-এর কাছে “এটি আমাদের শেষ দিন” বলে দেখতে পেয়েছে। ওপেনএআই বলেছে যে এই লক্ষণগুলি দীর্ঘ সময়ের ব্যবহারে আরও প্রভাবশালী কিছুতে বিকশিত হতে পারে কিনা তা তদন্ত করা দরকার।
একটি বড় উদ্বেগ, যদি আশঙ্কা সত্য হয়, তা হল AI মডেলটি মানুষের থেকে মানুষের মিথস্ক্রিয়াকে প্রভাবিত করতে পারে কারণ লোকেরা পরিবর্তে চ্যাটবটের সাথে সামাজিকীকরণে অভ্যস্ত হয়ে ওঠে। ওপেনএআই বলেছে যে এটি একাকী ব্যক্তিদের উপকার করতে পারে, এটি স্বাস্থ্যকর সম্পর্কের উপর নেতিবাচক প্রভাব ফেলতে পারে।
আরেকটি সমস্যা হল যে বর্ধিত এআই-মানুষের মিথস্ক্রিয়া সামাজিক নিয়মগুলিকে প্রভাবিত করতে পারে। এটি হাইলাইট করে, OpenAI উদাহরণ দিয়েছে যে ChatGPT-এর সাহায্যে, ব্যবহারকারীরা যেকোন সময় AI-কে বাধা দিতে পারে এবং “মাইক নিতে পারে”, যা মানব-মানুষের সাথে মিথস্ক্রিয়া করার ক্ষেত্রে আদর্শ-বিরোধী আচরণ।
আরও, AI এর সাথে মানুষের বন্ধন তৈরির ব্যাপক প্রভাব রয়েছে। এরকম একটি বিষয় হল প্ররোচনা। যদিও ওপেনএআই দেখেছে যে মডেলগুলির প্ররোচনা স্কোর যথেষ্ট উচ্চ ছিল না, ব্যবহারকারী যদি এআইকে বিশ্বাস করতে শুরু করে তবে এটি পরিবর্তন হতে পারে।
এই মুহুর্তে, এআই ফার্মের কাছে এর জন্য কোনও সমাধান নেই তবে আরও উন্নয়ন পর্যবেক্ষণ করার পরিকল্পনা রয়েছে। ওপেনএআই বলেছে, “আমরা মানসিক নির্ভরতার সম্ভাবনা এবং অডিও মোড্যালিটির সাথে আমাদের মডেল এবং সিস্টেমের অনেক বৈশিষ্ট্যের গভীর একীকরণের উপায়গুলি অধ্যয়ন করতে চাই,” ওপেনএআই বলেছে৷
