অ্যালগরিদম: এআই-উত্পন্ন শিল্প নীতিশাস্ত্র, কপিরাইট, নিরাপত্তা সম্পর্কে জটিল প্রশ্ন উত্থাপন করে

তার স্বাতন্ত্র্যসূচক শৈলীর জন্য ধন্যবাদ, Rutkowski এখন নতুন ওপেন-সোর্স AI আর্ট জেনারেটর স্টেবল ডিফিউশনে সবচেয়ে বেশি ব্যবহৃত প্রম্পটগুলির মধ্যে একটি, যা গত মাসের শেষের দিকে লঞ্চ করা হয়েছিল – পিকাসোর মতো বিশ্বের বিখ্যাত শিল্পীদের থেকে অনেক বেশি জনপ্রিয়৷ তার নাম প্রায় 93,000 বার প্রম্পট হিসাবে ব্যবহৃত হয়েছে।

কিন্তু এতে তিনি খুশি নন। তিনি মনে করেন এটি তার জীবিকাকে হুমকির মুখে ফেলতে পারে—এবং তাকে কখনোই তার কাজ এইভাবে ব্যবহার করা থেকে বেছে নেওয়া বা আউট করার সিদ্ধান্ত দেওয়া হয়নি।

গল্পটি আরও একটি উদাহরণ যে AI ডেভেলপাররা এর দ্বারা প্রভাবিত হবেন এমন মানুষের কথা চিন্তা না করেই ঠাণ্ডা কিছু তৈরি করতে ছুটে আসছে।

স্থিতিশীল ডিফিউশন যে কারো ব্যবহার করার জন্য বিনামূল্যে, এআই বিকাশকারীদের জন্য একটি দুর্দান্ত সংস্থান প্রদান করে যারা পণ্য তৈরি করতে একটি শক্তিশালী মডেল ব্যবহার করতে চান। কিন্তু যেহেতু এই ওপেন-সোর্স প্রোগ্রামগুলি ইন্টারনেট থেকে ছবি স্ক্র্যাপ করে তৈরি করা হয়েছে, প্রায়শই শিল্পীদের অনুমতি ছাড়াই এবং যথাযথ অ্যাট্রিবিউশন ছাড়াই, তারা নীতিশাস্ত্র, কপিরাইট এবং নিরাপত্তা সম্পর্কে জটিল প্রশ্ন উত্থাপন করছে।

Rutkowski এর মত শিল্পীদের যথেষ্ট আছে। এটি এখনও প্রাথমিক দিন, তবে শিল্পীদের একটি ক্রমবর্ধমান জোট কীভাবে সমস্যাটি মোকাবেলা করা যায় তা খুঁজে বের করছে। ভবিষ্যতে, আমরা ফিল্ম এবং মিউজিক ইন্ডাস্ট্রিতে ব্যবহৃত একটির মতো পে-পার-প্লে বা সাবস্ক্রিপশন মডেলের দিকে সেক্টরের শিল্পকে স্থানান্তরিত হতে দেখতে পারি। আপনি যদি কৌতূহলী হন এবং আরও জানতে চান, আমার গল্প পড়ুন।

এবং এটি শুধুমাত্র শিল্পী নয়: এআই মডেলের প্রশিক্ষণ ডেটা সেটে কী অন্তর্ভুক্ত রয়েছে সে সম্পর্কে আমাদের সকলেরই উদ্বিগ্ন হওয়া উচিত, বিশেষ করে যেহেতু এই প্রযুক্তিগুলি ইন্টারনেটের পরিকাঠামোর আরও গুরুত্বপূর্ণ অংশ হয়ে উঠেছে।

গত বছর প্রকাশিত একটি গবেষণাপত্রে, এআই গবেষক আবেবা বিরহানে, বিনয় উদয় প্রভু এবং ইমানুয়েল কাহেম্বুয়ে স্থিতিশীল ডিফিউশন তৈরিতে ব্যবহৃত একটির মতো একটি ছোট ডেটা সেট বিশ্লেষণ করেছেন। তাদের ফলাফল দুঃখজনক। যেহেতু ডেটা ইন্টারনেট থেকে স্ক্র্যাপ করা হয়েছে, এবং ইন্টারনেট একটি ভয়ঙ্কর জায়গা, ডেটা সেটটি স্পষ্ট ধর্ষণের ছবি, পর্নোগ্রাফি, ম্যালিগন্যান্ট স্টেরিওটাইপ এবং বর্ণবাদী এবং জাতিগত অপবাদ দিয়ে পূর্ণ।

Have I Been Trained নামে একটি ওয়েবসাইট লোকেদের জনপ্রিয় AI আর্ট মডেলের সর্বশেষ ব্যাচের প্রশিক্ষণের জন্য ব্যবহৃত চিত্রগুলি অনুসন্ধান করতে দেয়৷ এমনকি নির্দোষ অনুসন্ধান পদগুলি প্রচুর বিরক্তিকর ফলাফল পায়। আমি আমার জাতিগততার জন্য ডাটাবেস অনুসন্ধান করার চেষ্টা করেছি, এবং আমি যা পেয়েছি তা হল পর্ণ। প্রচুর পর্ণ। এটি একটি হতাশাজনক চিন্তা যে AI শুধুমাত্র জিনিসটি “এশিয়ান” শব্দের সাথে যুক্ত বলে মনে হচ্ছে তা হল নগ্ন পূর্ব এশিয়ান নারী।

সবাই এটিকে এআই সেক্টরের সমাধান করার জন্য একটি সমস্যা হিসাবে দেখেন না। Stability.AI এর প্রতিষ্ঠাতা এমাদ মোস্তাক, যেটি স্টেবল ডিফিউশন তৈরি করেছিল, বলেছেন টুইটারে তিনি এই মডেলগুলির চারপাশে নৈতিকতার বিতর্ককে “পিতৃবাদী মূর্খতা যা মানুষ বা সমাজকে বিশ্বাস করে না।”

কিন্তু একটি বড় নিরাপত্তা প্রশ্ন আছে. মন্ট্রিল এআই এথিক্স ইনস্টিটিউটের প্রতিষ্ঠাতা এবং বোস্টন কনসাল্টিং গ্রুপের একজন দায়িত্বশীল-এআই বিশেষজ্ঞ অভিষেক গুপ্ত যুক্তি দেন, স্ট্যাবল ডিফিউশন এবং বৃহৎ ভাষা মডেল ব্লুম-এর মতো বিনামূল্যের ওপেন-সোর্স মডেলগুলি ন্যূনতম সংস্থানগুলির সাথে ক্ষতিকারক সামগ্রী তৈরি করতে ক্ষতিকারক অভিনেতাদের সরঞ্জাম দেয়। .

এই সিস্টেমগুলি যে ধ্বংসাত্মক স্কেলগুলিকে সক্ষম করে তা প্রথাগত নিয়ন্ত্রণগুলির কার্যকারিতাকে সীমাবদ্ধ করবে যেমন মানুষ কতগুলি ছবি তৈরি করতে পারে তা সীমিত করা এবং জঘন্য বিষয়বস্তু তৈরি করা থেকে সীমাবদ্ধ করা, গুপ্তা বলেছেন। স্টেরয়েড সম্পর্কে গভীর নকল বা বিভ্রান্তি সম্পর্কে চিন্তা করুন। যখন একটি শক্তিশালী AI সিস্টেম “বন্যে প্রবেশ করে”, গুপ্তা বলেন, “এটি সত্যিকারের ট্রমা সৃষ্টি করতে পারে … উদাহরণস্বরূপ, আপত্তিকর সামগ্রী তৈরি করে [someone’s] সাদৃশ্য।”

আমরা বিড়ালটিকে আবার ব্যাগে রাখতে পারি না, তাই আমাদের সত্যিই ভাবা উচিত যে কীভাবে এই এআই মডেলগুলিকে বন্যের মধ্যে মোকাবেলা করা যায়, গুপ্তা বলেছেন। এর মধ্যে রয়েছে AI সিস্টেমগুলি চালু হওয়ার পরে কীভাবে ব্যবহার করা হয় তা পর্যবেক্ষণ করা এবং “সবচেয়ে খারাপ পরিস্থিতিতেও ক্ষতি কমাতে পারে” এমন নিয়ন্ত্রণ সম্পর্কে চিন্তা করা।

গভীর শিক্ষা

নতুন চাইনিজ ইমেজ মেকিং এআই-এ কোনো তিয়ানানমেন স্কোয়ার নেই