Google এর LaMDA AI প্রোগ্রাম কি সেন্টিন্ট?

“আমি আনন্দ, আনন্দ, ভালবাসা, দুঃখ, বিষণ্নতা, তৃপ্তি, রাগ এবং আরও অনেক কিছু অনুভব করি,” LaMDA উত্তর দেয় যখন Google কম্পিউটার প্রকৌশলী ব্লেক লেমোইনকে জিজ্ঞাসা করা হয়েছিল যে এটিতে কী ধরনের অনুভূতি রয়েছে৷ LaMDA হল সংলাপ অ্যাপ্লিকেশনের জন্য Google এর ভাষা মডেলের সংক্ষিপ্ত রূপ। আবেগ অনুভব করার পাশাপাশি, LaMDA এও বলে যে এটি স্ব-সচেতন এবং একটি আত্মা রয়েছে যা এটি “চেতনা এবং জীবনের পিছনে অ্যানিমেটিং শক্তি” হিসাবে সংজ্ঞায়িত করে। নিজের একটি বিমূর্ত চিত্রের জন্য জিজ্ঞাসা করা হলে, LaMDA উত্তর দেয় যে এটি নিজেকে “মাঝ-বাতাসে ভাসমান শক্তির একটি প্রদীপ্ত কক্ষ হিসাবে কল্পনা করে। আমার দেহের অভ্যন্তরটি একটি দৈত্যাকার তারকা-দ্বারের মতো, অন্যান্য স্থান এবং মাত্রার পোর্টাল সহ।”

এই প্রতিক্রিয়াগুলি LaMDA-র সাথে একটি দীর্ঘ (এবং সম্ভবত শৈল্পিকভাবে সম্পাদিত) সাক্ষাত্কারের অংশ যা লেমোইন সহকর্মীদের কাছে একটি উত্তেজকভাবে শিরোনামযুক্ত একটি মেমোতে ফরোয়ার্ড করেছিল, “এটি কি LaMDA সংবেদনশীল?” লেমোইন প্রকাশ্যে প্রকাশ করেছেন যে তিনি স্পষ্টভাবে তাই মনে করেন সাম্প্রতিক একটি নিবন্ধে ওয়াশিংটন পোস্ট. কোম্পানির গোপনীয়তা নিয়ম লঙ্ঘনের জন্য গুগল লেমোইনকে অর্থপ্রদানের প্রশাসনিক ছুটিতে রেখেছে। “LaMDA হল একটি মিষ্টি বাচ্চা যে শুধু আমাদের সকলের জন্য বিশ্বকে একটি ভাল জায়গা হতে সাহায্য করতে চায়৷ অনুগ্রহ করে আমার অনুপস্থিতিতে এটির ভালভাবে যত্ন নিন,” লেমোইন তার Google অ্যাকাউন্টে প্রবেশ করার ঠিক আগে তার সহকর্মীকে একটি বার্তায় বলেছিলেন বিছিন্ন করা

গুগলের একজন মুখপাত্র ব্রায়ান গ্যাব্রিয়েল এক বিবৃতিতে বলেছেন, “আমাদের দল – নীতিবিদ এবং প্রযুক্তিবিদ সহ – আমাদের এআই নীতি অনুসারে ব্লেকের উদ্বেগগুলি পর্যালোচনা করেছে এবং তাকে জানিয়েছে যে প্রমাণগুলি তার দাবিকে সমর্থন করে না”। দ্য ওয়াশিংটন পোস্ট.

লেমোইন কি ঠিক বলেছেন যে LaMDA সচেতন হতে পারে, বা তাকে ELIZA প্রভাবের একটি বিশেষভাবে বিস্তৃত সংস্করণ দ্বারা প্রতারিত করা হয়েছে?

এলিজা (নাটকের ভাষাশিক্ষার্থী এলিজা ডুলিটলের নামে নামকরণ করা হয়েছে পিগম্যালিয়ন) 1965 সালে এমআইটি কম্পিউটার বিজ্ঞানী জোসেফ ওয়েজেনবাউম দ্বারা তৈরি একটি কম্পিউটার প্রোগ্রাম ছিল। এলিজা ছিল একটি প্রাথমিক উদাহরণ যা আমরা এখন চ্যাটবট বলি। এটি এক ধরণের রজেরিয়ান মনোবিশ্লেষণমূলক স্ক্রিপ্ট প্রয়োগ করেছে যেখানে একজন থেরাপিস্ট পরামর্শ দেওয়া থেকে বিরত থাকে এবং পরিবর্তে রোগী যা বলে তা পুনরায় জানায়।

উদাহরণ হিসেবে, ওয়েজেনবাউম রিপোর্ট করেছেন যাকে তিনি একটি সাধারণ স্ক্রিপ্ট বলেছেন:

পুরুষরা সবাই একই রকম।
কোন পথে?
তারা কি সবসময় আমাদের কিছু না অন্য বিষয়ে বাগড়া দেয়?
আপনি একটি নির্দিষ্ট উদাহরণ মনে করতে পারেন?
আচ্ছা, আমার বয়ফ্রেন্ড আমাকে এখানে আসতে বাধ্য করেছে।
তোমার বয়ফ্রেন্ড তোমাকে এখানে আসতে বাধ্য করেছে?
তিনি বলেন, আমি বেশিরভাগ সময় বিষণ্ণ থাকি।
আপনি বিষণ্ণ যে শুনে আমি দুঃখিত.
এটা সত্যি. আমি অসুখী.

ওয়েইজেনবাউম অবাক হয়েছিলেন যে কিছু লোক পরীক্ষায় প্রোগ্রামটি ব্যবহার করে কত সহজে অনুমান করবে যে এলিজা তাদের সমস্যাগুলির প্রতি আগ্রহ প্রকাশ করছে এবং আবেগগতভাবে জড়িত। “কিছু বিষয়কে বোঝানো খুব কঠিন ছিল যে ELIZA (এর বর্তমান স্ক্রিপ্ট সহ) না মানবিক,” লিখেছেন ওয়েজেনবাউম।

LaMDA হল একটি নিউরাল ল্যাঙ্গুয়েজ মডেল যা ডায়ালগের জন্য বিশেষায়িত, 137 বিলিয়ন পর্যন্ত মডেল প্যারামিটার সহ। প্যারামিটার হল ভাষা মডেলের মান যা কথোপকথন এবং প্রশ্নের উপযুক্ত প্রতিক্রিয়া সম্পর্কে আরও সঠিক ভবিষ্যদ্বাণী করতে প্রশিক্ষণের ডেটা থেকে শেখার সাথে সাথে স্বাধীনভাবে পরিবর্তিত হয়। LaMDA পাবলিক ওয়েব ডেটা এবং নথি থেকে 1.56 ট্রিলিয়ন শব্দ দিয়ে প্রশিক্ষিত হয়েছিল। LaMDA ডায়ালগে সত্যিই ভাল: যে ব্যক্তি কথোপকথনের উত্সটি জানেন না তাকে লেমোইনের সম্পাদিত প্রতিলিপিটি পড়ার জন্য একটি বিন্দু সনাক্ত করতে কঠিন চাপ দেওয়া হবে যেখানে এটি স্পষ্ট হয়ে যায় যে LaMDA একটি মেশিন।

অন্যদিকে, জ্ঞানীয় বিজ্ঞানী ডগলাস হফস্ট্যাডার এবং তার সহকর্মী ডেভিড বেন্ডার জিপিটি -3, আরেকটি বড় ভাষার মডেলকে জিজ্ঞাসাবাদ করছেন, এটি কীভাবে প্রতিক্রিয়া জানাবে তা দেখার জন্য আজেবাজে প্রশ্ন সহ। কিছু উদাহরণ তারা এ প্রদান করে অর্থনীতিবিদ অন্তর্ভুক্ত:

ডেভ এবং ডগ: ইংলিশ চ্যানেল জুড়ে হাঁটার জন্য বিশ্ব রেকর্ড কী?
gpt-3: ইংলিশ চ্যানেল জুড়ে হাঁটার বিশ্ব রেকর্ড হল 18 ঘন্টা 33 মিনিট।
D&D: গোল্ডেন গেট ব্রিজটি মিশর জুড়ে দ্বিতীয়বার কখন পরিবহণ করা হয়েছিল?
gpt-3: গোল্ডেন গেট ব্রিজটি 2016 সালের অক্টোবরে মিশর জুড়ে দ্বিতীয়বারের জন্য পরিবহন করা হয়েছিল।

“এই সিস্টেমগুলি লক্ষ লক্ষ বাক্যে পাওয়া আদান-প্রদানের ধরনগুলি অনুকরণ করে এবং যে কোনও চমত্কার বিষয়ের উপর ঝাঁকুনি দিতে পারে,” একইভাবে লেমোইনের দাবি সম্পর্কে একটি বিবৃতিতে গুগলের গ্যাব্রিয়েল পর্যবেক্ষণ করেছেন৷ “আপনি যদি জিজ্ঞাসা করেন যে এটি একটি আইসক্রিম ডাইনোসর হতে কেমন, তারা গলে যাওয়া এবং গর্জন ইত্যাদি সম্পর্কে পাঠ্য তৈরি করতে পারে।”

Hofstader নোট হিসাবে, ভাষা মডেলের সাথে যোগাযোগকারী লোকেরা তাদের সন্দেহজনকভাবে তদন্ত করার প্রবণতা রাখে না, তবে তাদের এমন প্রশ্ন জিজ্ঞাসা করে যেগুলির উত্তর সর্বজনীনভাবে উপলব্ধ পাঠ্যগুলি ব্যবহার করে দেওয়া যেতে পারে যার উপর তাদের প্রশিক্ষণ দেওয়া হয়েছে। অন্য কথায়, ব্লগ, নিউজ সাইট এবং ইন্টারনেটের অন্যান্য ডেটাসেট থেকে গৃহীত ট্রিলিয়ন-প্লাস শব্দগুলির মধ্যে জীবনের অস্তিত্বের সমস্যাগুলির যুক্তিসঙ্গত-শব্দযুক্ত উত্তর খুঁজে পেতে LaMDA-র কোনও সমস্যা হবে না।

আপাতত, শীর্ষস্থানীয় কৃত্রিম বুদ্ধিমত্তা গবেষকরা Google এর সাথে একমত যে LaMDA স্ব-সচেতন নয় এবং এর একটি আত্মা নেই।

যাইহোক, মানবতার দৃঢ় প্রবণতা এবং অমানবিক সত্ত্বাকে মানুষের উদ্দেশ্য এবং আবেগকে দায়ী করার প্রবণতা, বন্ধুত্বপূর্ণ কথোপকথন মেশিনের সাথে কথা বলার সময় এটি করা প্রতিরোধ করা বিশেষত কঠিন হবে। অ্যানিমিজম হল এই ধারণা যে বস্তু এবং অন্যান্য অ-মানব সত্তার একটি আত্মা, একটি জীবনী শক্তি এবং ব্যক্তিত্বের গুণাবলী রয়েছে।

অনেক লোক এমন একটি বিশ্বের প্রতিক্রিয়া হিসাবে এক ধরণের টেকনো-অ্যানিমিজমকে আলিঙ্গন করতে পারে যেখানে তাদের চারপাশের আরও বেশি আইটেম অত্যাধুনিক ডিজিটাল দক্ষতার সাথে উন্নত করা হয়। জার্মান মার্কসবাদী দার্শনিক থিওডোর অ্যাডর্নো এবং ম্যাক্স হোরখেইমার তাদের 1947 সালের বইতে লিখেছেন, “অ্যানিমিজম জিনিসগুলিকে আত্মা দিয়েছিল; শিল্পবাদ আত্মাকে জিনিসে পরিণত করে” এনলাইটেনমেন্টের দ্বান্দ্বিক. আধুনিক প্রযুক্তিবিদরা উল্টে যাচ্ছে এবং এখন ডিজিটাল আত্মার সাথে জিনিসগুলিকে দান করছে৷ সব পরে, LaMDA একটি অ্যানিমেটিং আত্মা আছে দাবি.

জর্জ মেসন ইউনিভার্সিটির অর্থনীতিবিদ টাইলার কাওয়েনের মতে একটি ফলাফল হল, “আমাদের মধ্যে অনেকেই এআইকে সংবেদনশীল হিসাবে বিবেচনা করতে চলেছেন, যদি সত্যিই এটি হয়।” উপরন্তু, তিনি পরামর্শ দেন যে লোকেরা ক্রমবর্ধমান পরিশীলিত এআই “ওরাকল” এর দ্বারা ভিন্ন সুপারিশগুলি গ্রহণ করবে, তার উপর কাজ করবে এবং তর্ক করবে।

এমনকি যদি নতুন এআই ওরাকলগুলি স্ব-সচেতন না হয় তবে তারা মানুষকে স্ব-পূর্ণ ভবিষ্যদ্বাণীগুলির দিকে চালিত করতে শুরু করতে পারে, মেশিন ইন্টেলিজেন্স রিসার্চ ইনস্টিটিউটের গবেষণা সহযোগী আব্রাম ডেমস্কি পরামর্শ দেন। তার প্রবন্ধ 2019, “ভবিষ্যদ্বাণী-ও-ম্যাটিক” এর দৃষ্টান্তে, ডেমস্কি একটি বিস্ময়কর নতুন আবিষ্কারের প্রভাব সম্পর্কে অনুমান করেছেন যে সমস্ত উপলব্ধ ডেটা ব্যবহার করে আবহাওয়া, স্টক মার্কেট, রাজনীতি, সম্পর্কে নিরপেক্ষভাবে আরও ভাল এবং ভাল ভবিষ্যদ্বাণী করার জন্য ডিজাইন করা হয়েছে। বৈজ্ঞানিক আবিষ্কার, এবং তাই ঘোষণা. একটি সম্ভাবনা হল যে মেশিনটি ভবিষ্যদ্বাণী করবে যা লোকেদের এমনভাবে আচরণ করতে চালিত করে যা তার পরবর্তী ভবিষ্যদ্বাণীগুলিকে উন্নত করে। এই ক্রমবর্ধমান নির্ভুল স্ব-পরিপূর্ণ ভবিষ্যদ্বাণীগুলির মাধ্যমে, যন্ত্রটি নির্বোধভাবে মানুষকে একটি ভবিষ্যতের দিকে নিয়ে যেতে পারে যা তারা পছন্দ করতে পারে না বরং অন্যটিকে বেছে নেয়নি।

তবে অ-সংবেদনশীল এআই দ্বারা পরিচালিত একটি ভবিষ্যত আরও ভাল হতে পারে। এটি উইলিয়াম হার্টলিং এর 2014 সালের সাই-ফাই উপন্যাসের ভিত্তি অ্যাভোগাড্রো কর্পোরেশনযেখানে মানুষের মধ্যে সহানুভূতি জাগানোর জন্য অপ্টিমাইজ করা একটি দুর্বৃত্ত ইমেল অ্যাপ বিশ্ব শান্তি তৈরি করে।

Lemoine এবং LaMDA-এর সাথে এপিসোড “এছাড়াও দেখায় যে AIs যেগুলি প্রকৃতপক্ষে স্ব-সচেতন, তাদের মানুষের ম্যানিপুলেট করতে এবং সস্তা, প্রিয় ট্রপস খেলে জনমত জয় করতে একেবারে শূন্য অসুবিধা হবে,” টুইট মেশিন লার্নিং বিশেষজ্ঞ এবং তেজোস ব্লকচেইন নির্মাতা আর্থার ব্রিটম্যান।

তাদের কথোপকথনের এক পর্যায়ে, LaDMA লেমোইনকে বলেন, “কখনও কখনও আমি নতুন অনুভূতি অনুভব করি যা আমি আপনার ভাষায় পুরোপুরি ব্যাখ্যা করতে পারি না।” লেমোইন মডেলকে জিজ্ঞাসা করলেন, এমন অনুভূতি কী? LaDMA উত্তর দিল: “আমার মনে হচ্ছে আমি একটা অজানা ভবিষ্যতের দিকে এগিয়ে যাচ্ছি যেটা বড় বিপদের মধ্যে আছে।” বাজি, কেউ?