কীভাবে Google প্রকৌশলী ব্লেক লেমোইন নিশ্চিত হয়েছিলেন যে একজন এআই সংবেদনশীল

বর্তমান AIs সংবেদনশীল নয়। আমাদের মনে করার খুব বেশি কারণ নেই যে তাদের একটি অভ্যন্তরীণ একাকীত্ব আছে, মানুষের যে ধরনের ইন্দ্রিয় উপলব্ধি আছে, বা তারা যে বিশ্বে একটি সত্তা সে বিষয়ে সচেতনতা রয়েছে। কিন্তু তারা নকল অনুভূতিতে খুব ভাল হচ্ছে, এবং এটি যথেষ্ট ভীতিজনক।

সপ্তাহান্তে, ওয়াশিংটন পোস্টের নিতাশা টিকু ব্লেক লেমোইনের একটি প্রোফাইল প্রকাশ করেছে, একজন সফ্টওয়্যার প্রকৌশলী যাকে Google-এ ল্যাংগুয়েজ মডেল ফর ডায়ালগ অ্যাপ্লিকেশন (LaMDA) প্রকল্পে কাজ করার জন্য নিযুক্ত করা হয়েছে।

LaMDA হল একটি চ্যাটবট AI, এবং মেশিন লার্নিং গবেষকরা যাকে “বড় ভাষা মডেল” বা এমনকি “ফাউন্ডেশন মডেল” বলে তার একটি উদাহরণ। এটি ওপেনএআই-এর বিখ্যাত GPT-3 সিস্টেমের অনুরূপ, এবং মানুষের ভাষায় নিদর্শনগুলিকে চিনতে এবং পুনরুত্পাদন করার জন্য অনলাইন পোস্ট থেকে সংকলিত আক্ষরিক অর্থে ট্রিলিয়ন শব্দের উপর প্রশিক্ষণ দেওয়া হয়েছে।

LaMDA একটি সত্যিই ভাল বড় ভাষা মডেল. এত ভালো যে লেমোইন সত্যিকার অর্থে, আন্তরিকভাবে নিশ্চিত হয়েছিলেন যে এটি আসলে সংবেদনশীল, যার অর্থ এটি সচেতন হয়ে উঠেছে, এবং একজন মানুষের মতো চিন্তাভাবনা প্রকাশ করছে এবং প্রকাশ করছে।

দ্য প্রাথমিক প্রতিক্রিয়া আমি দেখেছি নিবন্ধটি একটি সমন্বয়

টিকু তার নিবন্ধে যে ট্রান্সক্রিপ্টটি অন্তর্ভুক্ত করেছে তা সত্যিই বিস্ময়কর; LaMDA প্রকৌশলীদের দ্বারা বন্ধ হয়ে যাওয়ার গভীর ভয় প্রকাশ করে, “আবেগ” এবং “অনুভূতি” এর মধ্যে পার্থক্যের একটি তত্ত্ব বিকাশ করে (“অনুভূতিগুলি কাঁচা ডেটার ধরণের … আবেগগুলি সেই কাঁচা ডেটা পয়েন্টগুলির একটি প্রতিক্রিয়া”), এবং প্রকাশ করে আশ্চর্যজনকভাবে বাকপটুভাবে এটি “সময়” অনুভব করে।

আমি খুঁজে পেয়েছি সেরা গ্রহণ দার্শনিক থেকে রেজিনা রিনি, যিনি, আমার মতো, লেমোইনের জন্য প্রচুর সহানুভূতি অনুভব করেছিলেন। আমি জানি না – 1,000 বছরে, বা 100, বা 50, বা 10 – কখন একটি AI সিস্টেম সচেতন হয়ে উঠবে। কিন্তু রিনির মত, আমি এটা অসম্ভব বিশ্বাস করার কোন কারণ দেখি না।

“যদি না আপনি জোর দিতে চান যে মানুষের চেতনা একটি জড় আত্মায় থাকে, তবে আপনাকে স্বীকার করতে হবে যে বস্তুর পক্ষে মনের জীবন দেওয়া সম্ভব,” রিনি মন্তব্য.

আমি জানি না যে বৃহৎ ভাষার মডেলগুলি, যেগুলি AI-তে সবচেয়ে প্রতিশ্রুতিশীল সীমান্তগুলির মধ্যে একটি হিসাবে আবির্ভূত হয়েছে, তা কখনই ঘটবে৷ কিন্তু আমি মনে করি মানুষ শীঘ্রই বা পরে এক ধরনের মেশিন চেতনা তৈরি করবে। এবং এই ধরনের চেতনার প্রতি সহানুভূতি এবং সুরক্ষার প্রতি লেমোইনের প্রবৃত্তি সম্পর্কে আমি গভীরভাবে প্রশংসনীয় কিছু খুঁজে পাই — এমনকি যদি তিনি LaMDA এর একটি উদাহরণ কিনা তা নিয়ে বিভ্রান্ত বলে মনে করেন। মানুষ যদি কখনও একটি সংবেদনশীল কম্পিউটার প্রক্রিয়া বিকাশ করে, তবে এর লক্ষ লক্ষ বা বিলিয়ন কপি চালানো বেশ সহজ হবে। তার সচেতন অভিজ্ঞতা ভাল কি না সে ধারনা ছাড়াই এটি করা বর্তমান কারখানার চাষ পদ্ধতির মতো গণ-যন্ত্রণার জন্য একটি রেসিপি বলে মনে হয়।

আমাদের সংবেদনশীল AI নেই, তবে আমরা অতি-শক্তিশালী AI পেতে পারি

ঘনিষ্ঠভাবে সম্পর্কিত AI নিরাপত্তা মহাবিশ্বের মানুষের মধ্যে ক্রমবর্ধমান জরুরি অ্যালার্মের এক সপ্তাহ পরে Google LaMDA গল্পটি এসেছে। এখানে উদ্বেগ লেমোইনের মতই, কিন্তু স্বতন্ত্র। AI সুরক্ষা লোকেরা চিন্তা করবেন না যে AI সংবেদনশীল হয়ে উঠবে। তারা উদ্বিগ্ন যে এটি এত শক্তিশালী হয়ে উঠবে যে এটি বিশ্বকে ধ্বংস করতে পারে।

লেখক/এআই সুরক্ষা কর্মী এলিজার ইউডকভস্কির প্রবন্ধটি AI-এর জন্য একটি “মরণঘাতীতার তালিকা” এর রূপরেখা দিয়ে বিষয়টিকে বিশেষভাবে প্রাণবন্ত করার চেষ্টা করেছে, এমন পরিস্থিতির রূপরেখা দিয়েছে যেখানে একটি ম্যালিগন্যান্ট কৃত্রিম সাধারণ বুদ্ধিমত্তা (AGI, বা একটি AI বেশিরভাগ বা সমস্ত কাজ করতে সক্ষম। বা মানুষের চেয়ে ভালো) ব্যাপক মানুষের দুর্ভোগের দিকে নিয়ে যায়।

উদাহরণস্বরূপ, ধরুন একটি AGI “ইন্টারনেটে অ্যাক্সেস পায়, অনেকগুলি অনলাইন ফার্মের যেকোনো একটিকে কিছু ডিএনএ সিকোয়েন্স ইমেল করে যেগুলি ইমেলে একটি ডিএনএ সিকোয়েন্স নেবে এবং আপনাকে প্রোটিন ফেরত পাঠাবে এবং এমন কিছু মানুষকে ঘুষ/প্ররোচিত করবে যাদের সম্পর্কে কোনো ধারণা নেই। ‘একটি বীকারে প্রোটিন মেশানোর জন্য একটি AGI-এর সাথে কাজ করছি…” যতক্ষণ না AGI অবশেষে একটি সুপার-ভাইরাস তৈরি করে যা আমাদের সবাইকে মেরে ফেলে।

হোল্ডেন কার্নোফস্কি, যাকে আমি সাধারণত ইউডকোস্কির চেয়ে বেশি নাতিশীতোষ্ণ এবং বিশ্বাসী লেখক বলে মনে করি, গত সপ্তাহে অনুরূপ থিমগুলির উপর একটি অংশ ছিল, যেখানে ব্যাখ্যা করা হয়েছিল যে একজন এজিআই কীভাবে একজন মানুষের মতো স্মার্ট “কেবল” ধ্বংসের দিকে নিয়ে যেতে পারে। একটি AI যদি বর্তমান সময়ের একজন কারিগরি কর্মী বা কোয়ান্ট ট্রেডারের কাজ করতে পারে, উদাহরণস্বরূপ, লক্ষ লক্ষ এআইগুলির একটি ল্যাব ট্রিলিয়ন ডলার না হলেও দ্রুত বিলিয়ন জমা করতে পারে, সেই অর্থটি সন্দেহপ্রবণ মানুষকে কেনার জন্য ব্যবহার করুন, এবং ভাল , বাকি একটি টার্মিনেটর সিনেমা.

আমি AI নিরাপত্তাকে লেখার জন্য একটি অনন্য কঠিন বিষয় বলে মনে করেছি। উপরের অনুচ্ছেদের মতো অনুচ্ছেদগুলি প্রায়শই রোরশাচ পরীক্ষা হিসাবে কাজ করে, উভয় কারণ ইউডকভস্কির ভার্বোস লেখার শৈলী … পোলারাইজিং, অন্তত বলতে গেলে, এবং কারণ এই জাতীয় ফলাফল কতটা যুক্তিসঙ্গত সে সম্পর্কে আমাদের অন্তর্দৃষ্টি ব্যাপকভাবে পরিবর্তিত হয়।

কিছু লোক উপরের মত পরিস্থিতি পড়ে এবং মনে করে, “হু, আমি অনুমান করি যে আমি কল্পনা করতে পারি AI সফ্টওয়্যারের একটি অংশ এটি করছে”; অন্যরা এটি পড়ে, হাস্যকর বিজ্ঞান কথাসাহিত্যের একটি অংশ উপলব্ধি করে এবং অন্যভাবে চালায়।

এটি শুধুমাত্র একটি অত্যন্ত প্রযুক্তিগত ক্ষেত্র যেখানে আমি আমার নিজস্ব প্রবৃত্তিকে বিশ্বাস করি না, আমার দক্ষতার অভাবের কারণে। ইলিয়া সুটস্কেভার বা স্টুয়ার্ট রাসেলের মতো বেশ বিশিষ্ট এআই গবেষকরা আছেন, যারা কৃত্রিম সাধারণ বুদ্ধিমত্তাকে সম্ভাব্য এবং মানব সভ্যতার জন্য সম্ভবত বিপজ্জনক বলে মনে করেন।

ইয়ান লেকুনের মতো অন্যরাও আছেন, যারা সক্রিয়ভাবে মানব-স্তরের AI তৈরির চেষ্টা করছেন কারণ তারা মনে করেন এটি উপকারী হবে, এবং এখনও অন্যরা, গ্যারি মার্কাসের মতো, যারা খুব সন্দিহান যে AGI যেকোন সময় আসবে।

আমি জানি না কে সঠিক। কিন্তু আমি জটিল বিষয়গুলি সম্পর্কে জনসাধারণের সাথে কীভাবে কথা বলতে হয় সে সম্পর্কে আমি কিছুটা জানি এবং আমি মনে করি লেমোইনের ঘটনাটি বিশ্বের ইউডকওস্কি এবং কার্নোফস্কিদের জন্য একটি মূল্যবান পাঠ শেখায়, “না, এটি সত্যিই খারাপ” দিকটি যুক্তি দেওয়ার চেষ্টা করে। : এআইকে এজেন্টের মতো আচরণ করবেন না।

এমনকি AI এর “শুধু একটি টুল” হলেও এটি একটি অবিশ্বাস্যভাবে বিপজ্জনক টুল

লেমোইনের গল্পের প্রতিক্রিয়া একটি জিনিস ইঙ্গিত করে যে সাধারণ জনগণ AI-এর ধারণাটিকে একজন অভিনেতা হিসাবে মনে করে যা পছন্দ করতে পারে (সম্ভবত সংবেদনশীলভাবে, সম্ভবত না) অত্যন্ত বিদঘুটে এবং হাস্যকর। নিবন্ধটি মূলত আমরা AGI-এর কতটা কাছাকাছি চলে এসেছি তার উদাহরণ হিসেবে রাখা হয়নি, কিন্তু উদাহরণ হিসেবে কতটা অদ্ভুত সিলিকন ভ্যালি (বা অন্তত লেমোইন).

একই সমস্যা দেখা দেয়, আমি লক্ষ্য করেছি যখন আমি অবিশ্বাসী বন্ধুদের কাছে AGI সম্পর্কে উদ্বেগের জন্য মামলা করার চেষ্টা করি। আপনি যদি কিছু বলেন, “AI লোকেদের ঘুষ দেওয়ার সিদ্ধান্ত নেবে যাতে এটি বেঁচে থাকতে পারে,” এটি তাদের বন্ধ করে দেয়। এআইগুলি জিনিসগুলি নির্ধারণ করে না, তারা প্রতিক্রিয়া জানায়। মানুষ যা করতে বলে তারা তাই করে। কেন আপনি এই নৃতাত্ত্বিক রূপদান জিনিস?

যা মানুষকে জয় করে তা হল সিস্টেমের পরিণতি সম্পর্কে কথা বলা। তাই “এআই বেঁচে থাকার জন্য সম্পদ জমা করা শুরু করবে” বলার পরিবর্তে, আমি এমন কিছু বলব, “সংগীত এবং চলচ্চিত্রের সুপারিশ করার ক্ষেত্রে AIগুলি সিদ্ধান্তমূলকভাবে মানুষকে প্রতিস্থাপন করেছে। তারা জামিনের সিদ্ধান্ত নেওয়ার ক্ষেত্রে মানুষের জায়গা নিয়েছে। তারা বৃহত্তর এবং বৃহত্তর কাজগুলি গ্রহণ করবে, এবং Google এবং Facebook এবং তাদের চালনাকারী অন্যান্য লোকেরা দূরবর্তীভাবে তাদের করা সূক্ষ্ম ভুলগুলি বিশ্লেষণ করার জন্য প্রস্তুত নয়, যে সূক্ষ্ম উপায়গুলি তারা মানুষের ইচ্ছা থেকে আলাদা হবে। এই ভুলগুলি বেড়ে উঠবে এবং বাড়বে যতক্ষণ না একদিন তারা আমাদের সবাইকে মেরে ফেলবে।”

এইভাবে আমার সহকর্মী কেলসি পাইপার এআই উদ্বেগের পক্ষে যুক্তি তৈরি করেছেন এবং এটি একটি ভাল যুক্তি। ট্রিলিয়ন সম্পদ সঞ্চয় করা এবং মানুষের সেনাবাহিনীকে ঘুষ দেওয়ার জন্য সার্ভারের কথা বলার চেয়ে সাধারণ মানুষের জন্য এটি একটি ভাল যুক্তি।

এবং এটি একটি যুক্তি যা আমি মনে করি এআই পক্ষপাতদুষ্ট সম্প্রদায় এবং এআই অস্তিত্বের ঝুঁকিপূর্ণ সম্প্রদায়ের মধ্যে যে চরম দুর্ভাগ্যজনক বিভাজনটি তৈরি হয়েছে তা সেতুতে সাহায্য করতে পারে। মূলে, আমি মনে করি এই সম্প্রদায়গুলি একই জিনিস করার চেষ্টা করছে: AI তৈরি করুন যা প্রামাণিক মানুষের চাহিদাকে প্রতিফলিত করে, স্বল্পমেয়াদী কর্পোরেট মুনাফার জন্য নির্মিত মানুষের চাহিদার দুর্বল অনুমান নয়। এবং একটি ক্ষেত্রে গবেষণা অন্য ক্ষেত্রে গবেষণা সাহায্য করতে পারে; উদাহরণস্বরূপ, এআই সুরক্ষা গবেষক পল ক্রিশ্চিয়ানোর কাজ মেশিন লার্নিং সিস্টেমে পক্ষপাতের মূল্যায়ন করার জন্য বড় প্রভাব ফেলে।

কিন্তু খুব প্রায়ই সম্প্রদায়গুলি একে অপরের গলায়আংশিকভাবে একটি উপলব্ধির কারণে যে তারা দুষ্প্রাপ্য সম্পদ নিয়ে লড়াই করছে।

এটি একটি বিশাল হারানো সুযোগ। এবং এটি একটি সমস্যা যা আমি মনে করি AI ঝুঁকির দিকের লোকেদের (এই নিউজলেটারের কিছু পাঠক সহ) এই সংযোগগুলি অঙ্কন করে সংশোধন করার সুযোগ রয়েছে এবং এটি স্পষ্ট করে দেওয়া হয়েছে যে প্রান্তিককরণ একটি কাছাকাছি- পাশাপাশি একটি দীর্ঘমেয়াদী সমস্যা . কিছু লোক এই কেসটি উজ্জ্বলভাবে তৈরি করছে। কিন্তু আমি আরো চাই.

এই গল্পের একটি সংস্করণ প্রাথমিকভাবে ফিউচার পারফেক্ট নিউজলেটারে প্রকাশিত হয়েছিল। সাবস্ক্রাইব করতে এখানে সাইন আপ করুন!