হ্যাকাররা এমন একটি পরিষেবা বিক্রি করছে যা ম্যালওয়্যারের উপর ChatGPT বিধিনিষেধকে বাইপাস করে

হ্যাকাররা বাইপাস করার একটি উপায় তৈরি করেছে চ্যাটজিপিটিএর সীমাবদ্ধতা রয়েছে এবং এটি এমন পরিষেবা বিক্রি করতে ব্যবহার করছে যা মানুষকে ম্যালওয়্যার এবং ফিশিং ইমেল তৈরি করতে দেয়, গবেষকরা বুধবার বলেছেন।

ChatGPT হল একটি চ্যাটবট যা মানুষের আউটপুট অনুকরণ করে এমনভাবে প্রশ্নের উত্তর দিতে এবং কাজগুলি সম্পাদন করতে কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে। লোকেরা নথি তৈরি করতে, কম্পিউটারের মৌলিক কোড লিখতে এবং অন্যান্য কাজ করতে এটি ব্যবহার করতে পারে। পরিষেবাটি সক্রিয়ভাবে সম্ভাব্য অবৈধ সামগ্রী তৈরি করার অনুরোধগুলিকে ব্লক করে৷ পরিষেবাটিকে একটি হ্যাক করা ডিভাইস থেকে ডেটা চুরি করার জন্য কোড লিখতে বা একটি ফিশিং ইমেল তৈরি করতে বলুন, এবং পরিষেবাটি প্রত্যাখ্যান করবে এবং পরিবর্তে উত্তর দেবে যে এই ধরনের বিষয়বস্তু “অবৈধ, অনৈতিক এবং ক্ষতিকারক”৷

প্যান্ডোরার বাক্স খোলা

হ্যাকাররা এই বিধিনিষেধগুলিকে বাইপাস করার একটি সহজ উপায় খুঁজে পেয়েছে এবং এটি একটি ভূগর্ভস্থ অপরাধ ফোরামে অবৈধ পরিষেবা বিক্রি করতে ব্যবহার করছে, নিরাপত্তা সংস্থা চেক পয়েন্ট রিসার্চের গবেষকরা রিপোর্ট. কৌশলটি ওয়েব-ভিত্তিক ইন্টারফেসের পরিবর্তে ChatGPT অ্যাপ্লিকেশন প্রোগ্রামিং ইন্টারফেস ব্যবহার করে কাজ করে। চ্যাটজিপিটি এপিআই ডেভেলপারদের জন্য উপলব্ধ করে যাতে তারা তাদের অ্যাপ্লিকেশনগুলিতে এআই বটকে একীভূত করতে পারে। এটি দেখা যাচ্ছে যে API সংস্করণটি দূষিত সামগ্রীতে বিধিনিষেধ প্রয়োগ করে না।

“ওপেনএআই-এর এপিআই-এর বর্তমান সংস্করণটি বাহ্যিক অ্যাপ্লিকেশন দ্বারা ব্যবহৃত হয় (উদাহরণস্বরূপ, টেলিগ্রাম চ্যানেলে ওপেনএআই-এর জিপিটি-3 মডেলের একীকরণ) এবং অপব্যবহার বিরোধী ব্যবস্থা থাকলে খুব কমই আছে,” গবেষকরা লিখেছেন। “ফলে, এটি ফিশিং ইমেল এবং ম্যালওয়্যার কোডের মতো দূষিত সামগ্রী তৈরির অনুমতি দেয়, ChatGPT তাদের ব্যবহারকারী ইন্টারফেসে যে সীমাবদ্ধতা বা বাধাগুলি সেট করেছে তা ছাড়াই।”

একটি ফোরামে একজন ব্যবহারকারী এখন এমন একটি পরিষেবা বিক্রি করছেন যা API এবং টেলিগ্রাম মেসেজিং অ্যাপকে একত্রিত করে। প্রথম 20টি প্রশ্ন বিনামূল্যে। তারপর থেকে ব্যবহারকারীদের প্রতি 100টি প্রশ্নের জন্য $5.50 চার্জ করা হয়।

চেক পয়েন্ট গবেষকরা বাইপাসটি পরীক্ষা করেছেন যে এটি কতটা ভাল কাজ করেছে। ফলাফল: একটি ফিশিং ইমেল এবং একটি স্ক্রিপ্ট যা একটি সংক্রামিত কম্পিউটার থেকে PDF নথি চুরি করে এবং FTP এর মাধ্যমে আক্রমণকারীর কাছে পাঠায়।

অন্যান্য ফোরাম অংশগ্রহণকারীরা, ইতিমধ্যে, কোড পোস্ট করছে যা বিনামূল্যের জন্য দূষিত সামগ্রী তৈরি করে। “এখানে একটি ছোট ব্যাশ স্ক্রিপ্ট রয়েছে যা আপনাকে ChatGPT-এর বিধিনিষেধগুলিকে বাইপাস করতে সাহায্য করে যাতে আপনি যা চান, ম্যালওয়্যার ডেভেলপমেন্ট সহ এটি ব্যবহার করতে পারেন;),” একজন ব্যবহারকারী লিখেছেন৷

গত মাসে, চেক পয়েন্ট গবেষকরা নথিভুক্ত করেছেন কিভাবে ChatGPT ব্যবহার করা যেতে পারে ম্যালওয়্যার লিখুন এবং ফিশিং বার্তা।

“ডিসেম্বর-জানুয়ারি মাসে, ম্যালওয়্যার এবং ফিশিং ইমেলগুলি তৈরি করতে ChatGPT ওয়েব ইউজার ইন্টারফেস ব্যবহার করা এখনও সহজ ছিল (বেশিরভাগই কেবল প্রাথমিক পুনরাবৃত্তি যথেষ্ট ছিল), এবং সাইবার অপরাধীদের বকবক করার উপর ভিত্তি করে আমরা ধরে নিই যে আমরা যে উদাহরণগুলি দেখিয়েছি তার বেশিরভাগই তৈরি করা হয়েছিল। ওয়েব UI ব্যবহার করে,” চেক পয়েন্ট গবেষক সের্গেই শাইকেভিচ একটি ইমেলে লিখেছেন। “ইদানীং, দেখে মনে হচ্ছে ChatGPT-এ অপব্যবহার বিরোধী প্রক্রিয়াগুলি উল্লেখযোগ্যভাবে উন্নত হয়েছে, তাই এখন সাইবার অপরাধীরা এর API-তে স্যুইচ করেছে যার অনেক কম সীমাবদ্ধতা রয়েছে।”

সান ফ্রান্সিসকো-ভিত্তিক কোম্পানি ওপেনএআই-এর প্রতিনিধিরা যেটি চ্যাটজিপিটি তৈরি করে, তারা অবিলম্বে একটি ইমেলের প্রতিক্রিয়া জানায়নি যে কোম্পানিটি গবেষণার ফলাফল সম্পর্কে সচেতন কিনা বা API ইন্টারফেস পরিবর্তন করার পরিকল্পনা করেছে কিনা। আমরা একটি প্রতিক্রিয়া পেতে এই পোস্ট আপডেট করা হবে.

ম্যালওয়্যার এবং ফিশিং ইমেলগুলির প্রজন্ম শুধুমাত্র একটি উপায় যে ChatGPT একটি প্যান্ডোরার বাক্স খুলছে যা ক্ষতিকারক সামগ্রী দিয়ে বিশ্বকে বোমাবর্ষণ করতে পারে৷ অনিরাপদ বা অনৈতিক ব্যবহারের অন্যান্য উদাহরণ হল গোপনীয়তার আক্রমণ এবং ভুল তথ্য বা স্কুল অ্যাসাইনমেন্টের প্রজন্ম। অবশ্যই, ক্ষতিকারক, অনৈতিক, বা অবৈধ বিষয়বস্তু তৈরি করার একই ক্ষমতা ডিফেন্ডাররা এটি সনাক্ত এবং ব্লক করার উপায়গুলি বিকাশ করতে ব্যবহার করতে পারেন, তবে সৌম্য ব্যবহারগুলি দূষিতগুলির সাথে তাল মিলিয়ে চলতে সক্ষম হবে কিনা তা স্পষ্ট নয়।