درد و هوش مصنوعی: آیا ربات‌ها می‌توانند رنج ببرند؟

آیا ممکن است هوش مصنوعی در آینده به خودآگاهی دست یابد؟ تصور جهانی که در آن موجودات آگاه از جنس فلز و سیلیکون زندگی می‌کنند، تا چه حد واقع‌بینانه است؟

فیلم «آن‌ها از گوشت ساخته شده‌اند» محصول سال ۱۹۹۱، اقتباسی از یکی از داستان‌های کوتاه علمی‌تخیلی تری بیسون، با سکانسی از دو بیگانه‌ی شگفت‌زده آغاز می‌شود. این دو، که ظاهری انسان‌مانند برای خود انتخاب کرده‌اند، در یک غذاخوری کنار جاده‌ای نشسته‌اند و با سیگاری بر لب، به تماشای انسان‌های اطرافشان مشغول هستند. یکی از آن‌ها به دیگری می‌گوید: «به نظر می‌رسد که کاملاً از گوشت ساخته شده‌اند!»

آن‌ها از این ایده که گوشت به‌تنهایی و بدون کمک ماشین می‌تواند ذهن متفکر ایجاد کند، حیرت‌زده هستند. یکی از آن‌ها با تمسخر می‌گوید: «گوشت متفکر! تو از من می‌خواهی که به گوشت متفکر اعتقاد داشته باشم؟!» دیگری پاسخ می‌دهد: «بله، گوشت متفکر! گوشت هوشیار! گوشت عاشق! گوشت رؤیاپرداز! گوشت منشأ تمام این قضایا است!»

برای ما زمینی‌ها، این ناباوری به‌طور معکوس وجود دارد. برای ما عجیب است که تصور کنیم هوشیاری و آگاهی می‌تواند در چیزی غیر از گوشت، مثلاً سیلیکون یا سخت‌افزار فلزی سیستم‌های هوش مصنوعی مانند چت جی‌پی‌تی یا جمنای، ایجاد شود. آیا واقعاً می‌توان ذهن را از فلز و سیلیکون ساخت؟

پیشرفت‌های اخیر هوش مصنوعی باعث شده که بحث ساخت ذهن و آگاهی از داستان‌های علمی‌تخیلی و اتاق‌های مه‌آلود خوابگاه‌ها به کف جامعه و مرکز توجه همگان منتقل شود. اگر هوشیاری واقعاً بتواند در ترکیبی از تراشه‌های سیلیکونی مستقر شود، دنیا با خطر ایجاد هوش‌های مصنوعی بی‌شماری مواجه خواهد شد که نه‌تنها می‌توانند هوشمندانه وظایف خود را انجام دهند، بلکه درباره زندگی‌شان احساس نیز خواهند داشت!

این موضوع می‌تواند به چیزی منجر شود که فیلسوف توماس متزینگر آن را «انفجاری رنج‌آور» در گونه‌‌های جدید ساخته‌های دست بشر می‌نامد. متزینگر معتقد است که تمام تحقیقاتی که خطر ایجاد آگاهی مصنوعی را افزایش می‌دهند، باید تا سال ۲۰۵۰ یا تا زمانی که بفهمیم ما خودمان چه هستیم، متوقف شوند.

اگر هوشیاری در سیلیکون ممکن باشد، موجودات بی‌شماری با وظایف آگاهانه و احساسات، پدید می‌آیند

به گزارش Vox، بیشتر کارشناسان معتقدند که ما هنوز مرتکب «جنایت ذهنی» در حق چت‌بات‌های هوشمند هوش مصنوعی نشده‌ایم. برخی محققان برای ارزیابی آگاهی چت‌بات‌های هوش مصنوعی از روشی که نویسنده‌ای به نام گریس هاکینز ابداع کرده استفاده می‌کنند. این روش به‌عنوان «کارت موقت سنجش هوشیاری» عمل می‌کند و به منظور جمع‌آوری ویژگی‌های مختلف سیستم‌های هوش مصنوعی فعلی برای ارزیابی احتمال آگاهی آن‌ها استفاده می‌شود.

تمام محققان، از جمله دانشمندان علوم اعصاب، کامپیوتر، فلسفه و روانشناسی، به این نتیجه رسیده‌اند که هیچ‌یک از مدل‌های هوش مصنوعی امروزی نمره‌ای به اندازه‌ای بالا ندارند که بتوان آن‌ها را آگاه نامید. با این حال، دانشمندان تأکید می‌کنند که از نظر فناوری هیچ مانع خاصی برای ساخت مدل‌های هوش مصنوعی آگاه وجود ندارد و رسیدن به این نوع از هوش مصنوعی بسیار محتمل و حتی اجتناب‌ناپذیر است.

اما باور دانشمندان بر یک فرضیه قابل انتقاد استوار است: این فرض که «کارکردگرایی محاسباتی» یا این ایده که آگاهی لزوماً به هیچ‌چیز فیزیکی خاصی وابسته نیست، صحیح می‌باشد. به‌عبارت دیگر، آنها معتقدند که آنچه برای هوشیاری اهمیت دارد، صحت ویژگی‌های محاسباتی انتزاعی است و هر چیز فیزیکی‌ای، چه گوشت، چه سیلیکون و چه هر ماده دیگری، مادامی که قادر به انجام محاسبات صحیح باشد، می‌تواند هوشیار باشد. اگر این فرضیه درست باشد، پس حق با آن‌هاست و تنها مانع رسیدن به هوش مصنوعی آگاه، زمان است.

این فرض می‌تواند در شکل‌دهی نظریه‌های ما مفید باشد؛ اما اگر بدون بررسی آن به تولید فرضیه‌های جدید ادامه دهیم، به‌تدریج خود سؤال محو می‌شود و یکی از بهترین ابزارهای ما برای ایجاد شفافیت اخلاقی در این زمین نامطمئن را از دست می‌دهیم.

سؤال مهم برای هوش مصنوعی این نیست که چند کار مختلف را می‌تواند به خوبی انجام دهد؛ حتی اگر بتواند یک ناظر بی‌خبر را متقاعد کند که انسان است یا معیارهای تشخیص هوشیاری تأیید کنند که فعالیت‌های الکتریکی آن به اندازه‌ی کافی پیچیده است تا هوشیار تلقی شود. بلکه سؤال تعیین‌کننده این است که آیا کارکردگرایی محاسباتی صحیح است یا خیر. یعنی آیا برای داشتن ذهن حتماً به گوشت نیاز است؟

اگر هوشیاری نیاز به زیست‌شناسی داشته باشد، مهم نیست فناوری چقدر پیشرفت کند، کل بحث هوشیاری هوش مصنوعی زیر سؤال می‌رود؛ زیرا بدون زیست‌شناسی، هوش مصنوعی ذهن نخواهد داشت و در نتیجه، خطر رنج کشیدن آن نیز منتفی است. البته این به معنای ایمن بودن هوش مصنوعی پیشرفته نیست. این فناوری حتی بدون داشتن آگاهی، می‌تواند تهدیدات جدی و وجودی ایجاد کند و در فرم کنونی نیز می‌تواند قدرتمند و مخرب باشد. با این حال، می‌توانیم بدون نگرانی از ایجاد نوع جدیدی از بردگی، به توسعه و تنظیم سیستم‌های هوش مصنوعی بپردازیم و دچار عذاب وجدان نشویم که شاید یک موجود هوشیار را مجبور کرده‌ایم تمام عمر خود را به‌صورت طاقت‌فرسا در نقش پنجره چت خدمات مشتری زندگی کند.

به‌جای پرسیدن اینکه آیا هر سیستم هوش مصنوعی جدید تجربه آگاهانه دارد یا خیر، باید به این پرسش اساسی‌تر پرداخت که آیا ساخت ذهن غیرزیستیِ دارای احساسات امکان‌پذیر است یا نه. پاسخ به این پرسش می‌تواند بینش‌های بسیار گسترده‌تری به ما بدهد و ابعاد مختلف معمای اخلاقی ساخت میلیاردها ماشین آینده را برایمان روشن کند؛ ماشین‌هایی که نه‌تنها می‌توانند فکر کنند و عشق بورزند، بلکه حتی ممکن است بتوانند رنج و عذاب بکشند.

زیرلایه‌ی آگاهی: زیست‌گرایی یا آگاهی مصنوعی؟

تاکنون، بر اساس دانش بشر، همه‌ی موجودات آگاه در این جهان از مواد زیستی ساخته شده‌اند. این نکته برای دیدگاه زیست‌گرایی افراطی که فیلسوفانی مانند ند بلاک، مدیر مرکز ذهن، مغز و آگاهی دانشگاه نیویورک، از آن حمایت می‌کنند، بسیار مهم است. این افراد معتقدند که مواد فیزیکی‌ای که یک موجود آگاه از آن ساخته شده است، یا همان زیرلایه‌ی ذهن، عنصری کلیدی است. اگر تاکنون فقط بسترهای بیولوژیکی توانسته‌اند زمینه‌ای برای تفکر و احساسات فراهم کنند، ممکن است منطقی باشد که فکر کنیم دلیلش این است که ساختار زیستی برای شکل‌گیری آگاهی ضروری است.

رزا کائو، استاد فلسفه‌ی دانشگاه استنفورد و دارای دکترای دو رشته‌ی علوم شناختی و فلسفه‌ی ذهن، معتقد است که بار اثبات این قضیه باید بر دوش کسانی باشد که می‌گویند گوشت برای آگاهی ضروری نیست. او تأکید می‌کند که فرضیه‌ی کارکردگرایی محاسباتی بسیار بیشتر از زیست‌گرایی به حدس‌وگمان تکیه دارد.

با این حال، به نظر می‌رسد که بار اثبات به هر نحو بر دوش زیست‌گراها افتاده است. کارکردگرایی محاسباتی، با وجود منتقدان فراوان، نفوذ گسترده‌ای در میان فیلسوفان ذهن امروزی پیدا کرده است. برای مثال، دیوید چالمرز، فیلسوف استرالیایی که با همکاری ند بلاک آزمایشگاه دانشگاه نیویورک را اداره می‌کند، نه‌تنها در مورد ضروری بودن ساختارهای زیستی با بلاک مخالف است، بلکه اخیراً احتمال توسعه‌ی هوش مصنوعی آگاه تا ۱۰ سال آینده را حدود ۲۰ درصد محاسبه کرده است!

فرض او بر این است که کارکردگرایی محاسباتی اهمیت چندانی ندارد؛ بلکه تنها عملکردهای ذهنی مهم هستند. برخی کارشناسان این ویژگی را «استقلال بستر» می‌نامند. اگر بتوان ماشینی ساخت که دقیقاً همان عملکردهای محاسباتی ذهن انسانی را انجام دهد، می‌توان آن را هوشیار تلقی کرد.

طرفداران کارکردگرایی محاسباتی معتقدند هر چیز فیزیکی‌ مادامی که بتواند محاسبات را به‌درستی انجام دهد، می‌تواند هوشیار باشد

در این دیدگاه، کارکردهای مهم، انواع خاصی از روش‌های پردازش اطلاعات هستند، اما هنوز هیچ توافق نظری پذیرفته‌شده‌ای وجود ندارد که بگوید دقیقاً چه نوع پردازشی سیستم‌های ناآگاهی مانند ماشین‌حساب‌ها را از سیستم‌های آگاهانه مانند انسان تمایز می‌دهد. ایده‌ی اصلی این فرضیه این است که آنچه برای آگاهی اهمیت دارد، ساختار یا «منطق انتزاعی» پردازش اطلاعات است، نه مواد فیزیکی که آن را اجرا می‌کنند.

به عنوان مثال، در بازی شطرنج، با تخته‌ی شطرنجی، دو دسته مهره و دانش قوانین بازی، هر کسی می‌تواند بازی کند. حتی اگر دو نفر در جزیره‌ای دورافتاده بدون تخته و مهره‌های شطرنج قرار گیرند، می‌توانند بازی را ادامه دهند؛ از طریق کشیدن خطوط روی شن‌ها به جای تخته و استفاده از تکه‌های اشیا برای مهره‌ها، باز هم با قوانین بازی مواجه می‌شوند. پس بازی شطرنج به وجود فیزیکی خود وابسته نیست؛ آنچه که اهمیت دارد، منطق انتزاعی بازی است، بدون توجه به جنس مواد استفاده شده برای تخته و مهره‌ها.

طرفداران کارکردگرایی محاسباتی حدس می‌زنند که آگاهی همچنین ممکن است به همین شکل باشد. اگر آگاهی تنها پردازش اطلاعات با منطق انتزاعی باشد، نقش بیولوژی در آن تأثیر خاصی ندارد.

متزینگر معتقد است که ما در این نقطه گیر کرده‌ایم و هیچ راهی برای دانستن اینکه آیا یک سیستم مصنوعی می‌تواند آگاه باشد یا خیر، نداریم. زیرا تئوری‌های مختلف که همگی بر فرضیات مبتنی هستند، هیچ درک مشترکی از ماهیت آگاهی ندارند. به علاوه، علوم اعصاب در برخورد با پدیده‌های مستقیماً مشاهده‌شده مانند هدایت بار الکتریکی نورون‌ها، خوب عمل می‌کند، اما هنوز نمی‌توانیم تجربیات ذهنی را مستقیماً مشاهده کنیم.

در نهایت، اریک هول، دانشمند علوم اعصاب، به این نکته اشاره می‌کند که اگر نتوانیم آگاهی را تعریف کنیم، نمی‌توانیم بگوییم که آگاهی از کجا به وجود می‌آید یا نمی‌آید. این مسئله به طور کلی موضوعی پیش‌پارادایمیک است، زیرا هیچ توافق مشترکی در مورد ذهن و آگاهی وجود ندارد.

به نظر می‌رسد که نمی‌توان تولد شکل‌های جدید آگاهی در آینده را به‌عنوان یک فاجعه‌ی اخلاقی قلمداد کرد. آیا بهتر بود از هر گونه تکامل بیولوژیکی در این سیاره جلوگیری می‌شد؟ آیا مجموع رنج‌هایی که در گوشه‌گوشه‌ی جهان ما به وقوع می‌پیوندد، از شگفتی‌های زندگی بیشتر است؟ از دیدگاه خدا، آیا کسی یا چیزی باید توسعه حیات بیولوژیکی روی زمین را تا زمانی که چگونگی ارتقاء مسیرها به منظور شادی و خوشبختی فهمیده شود، متوقف می‌کرد؟ به نظر نمی‌رسد که شرایط ذهنی ما به خوبی برای سعادت و خوشبختی تنظیم شده باشد. همچنین، مایکل لوین، زیست‌شناس، در این مورد اظهار می‌کند: «ویژگی‌های کلیدی ما، از طول عمر گرفته تا عقل، هیچ‌کدام برای شادی بهینه‌ نشده‌اند.»

نگاه ما به بحث زیرلایه و تفکر درباره چارچوب‌های اخلاقی در منطقه‌ی خاکستری که امروزه در آن قرار داریم، می‌تواند کمک کند تا بفهمیم آیا شناختی که تاکنون از مفهوم آگاهی داشته‌ایم اشتباه بوده یا خیر. اگر باور داریم که جهان و محتویاتش توسط خدا آفریده شده است یا اینکه همه‌ی ما درون یک شبیه‌ساز کامپیوتری زندگی می‌کنیم، در هر حالتی ما نخستین موجودات آگاه جهان خواهیم بود که مسئولیت افزودن یک گونه‌ی جدید از آگاهی به این جهان را برعهده می‌گیریم. این به معنای انتخاب شرایط ایجاد آن‌ها و برخورداری از یک مسئولیت اخلاقی عظیم است، و این سوال را به وجود می‌آورد که چگونه می‌توان اخلاق را رعایت کرد؟

یک تعلیق جهانی یا موقت در تحقیقات مرتبط با هوش مصنوعی می‌تواند به علم آگاهی کمک کند تا خود را با سطح فعلی اخلاق در فناوری بشر تطبیق دهد. این احتمال دارد که به‌تدریج به درک دقیق‌تری از عواملی که هوشیاری را بهبود یا تخریب می‌کند برسیم، و شاید یک نظریه‌ی محاسباتی در مورد رنج و تلاش برای کاهش آن در سیستم‌های آگاه غیرزیستی آینده بنیان‌گذاری کنیم.

بنظر نمی‌رسد که انسانی که در حال حاضر به‌شدت درگیر ساخت راه‌آهن‌های جدید و مسکن ارزان‌قیمت است، بتواند به اجماع جهانی برای توقف طولانی‌مدت پیشرفت‌های تکنولوژیکی که هوشیاری هوش مصنوعی را تهدید می‌کند، برسد. احتمالاً انسان به دلایلی از جمله تعلم چگونگی تبدیل به یک خالق بهتر و بخشی دادن به خلاقیت‌های خود به جای رنج، از تلاش در این رقابت دست نخواهد کشید؛ اما اگر موفق شویم، می‌توانیم به خود یک جهش تکاملی بزرگ تقدیم کنیم: عبور از وادی رنج به سوی شادی و سعادت.

درهم‌تنیدگی عمیق و مبهم آگاهی و زندگی

تئوری آگاهی تنها یکی از مسائل مهمی نیست که برای پیشرفت واقعی در بحث زیرلایه‌ی آگاهی ضرورت داریم. بشر هنوز تئوری کاملی درباره زندگی ارائه نداده است. به این معنا که زیست‌شناسان هنوز در مورد چیستی زندگی با هم اتفاق نظر ندارند. می‌توان ادعا کرد که یک کامیون زباله نمی‌تواند زنده باشد در حالی که یک گربه در حال چرت زدن زنده است؛ اما بحث‌های فراوان درباره موضوعاتی مانند ویروس‌ها یا گلبول‌های قرمز خون نشان می‌دهد که بشر هنوز به طور دقیق نمی‌داند چه عواملی باعث تفاوت بین موجودات زنده و غیرزنده می‌شود.

این برای زیست‌گرایان بسیار اهمیت دارد، زیرا هنوز نمی‌توانند به طور دقیق بگویند که ساختارهای زیستی برای آگاهی لازم چه ویژگی‌هایی دارند و نمی‌تواند این ویژگی‌ها را در یک ماشین بازسازی کنند. آیا سلول‌های خاص؟ بدن‌های گوشتی‌ای که با محیط تعامل دارند؟ متابولیسم؟ یک روح متصل به گوشت؟ احتمالاً حیات و ذهن، این دو راز دوگانه، در واقع یکی هستند. شاید به‌جای بخش‌های شناخته‌شده‌ی زیستی که به آن‌ها اشاره شد، تنها چیزی که برای آگاهی ضروری است، خود حیات باشد. این استدلال را نخستین بار دو زیست‌شناس شیلیایی به نام‌های فرانسیسکو وارلا و هامبرتو ماتورانا در دهه‌ی ۱۹۷۰ ارائه دادند و امروزه گروهی از دانشمندان علوم شناختی تحت عنوان «کنش‌گرایان» از این فرضیه حمایت و آن را با عنوان «فرضیه‌ی تداوم ذهن و زندگی» یاد می‌کنند.

این فرضیه بیان می‌کند که زندگی و ذهن، اصطلاحات مختلفی هستند برای توصیف یک ویژگی اساسی که مشترک است. ایوان تامپسون، فیلسوف برجسته‌ی کنش‌گرایی، این مفهوم را به این صورت توضیح می‌دهد: “از دیدگاه تداوم زندگی و ذهن، مغز یا سیستم عصبی که ذهن را ایجاد می‌کند، اصطلاحاً ‘سازنده‌ی ذهن’ نیست؛ بلکه دامنه‌ی ذهنی که از پیش در زندگی وجود دارد، را گسترش می‌دهد.”

این نظریه تمرکز بحث زیرساختی را از سؤالاتی مانند “چه چیزهایی می‌توانند آگاه شوند” به “چه چیزهایی می‌توانند زنده باشند” منتقل می‌کند؛ به این دلیل که بر اساس تامپسون، بودن هوشیار بخشی از فرایندهای ضروری برای تنظیم حیات است.

چارچوب کنش‌گرایی، مجموعه‌ای کامل از ایده‌ها درباره‌ی ضروریات و ملزومات زندگی از قبیل تجسم، خودمختاری و عاملیت است و همه‌ی این مفاهیم را زیر مفهومی به نام “حس‌سازی” جای می‌دهد. تامپسون این نکته را خلاصه می‌کند: “زندگی، در شرایط ناامن معنا پیدا می‌کند و موجودات زنده و حس‌ساز معنا ایجاد می‌کنند. آن‌ها اهداف خود را تعریف می‌کنند و بخش‌های مختلف محیط خود را بر اساس هم‌سویی یا ناهمسویی با اهدافشان، به سه دسته‌ی دارای ارزش مثبت، منفی یا خنثی تقسیم می‌کنند.”

این درک ارزش، نه فقط از طریق یک پروتکل مشخص و الگوریتم ثابت تعیین نمی‌شود، بلکه موجودات حس‌ساز ارزش را از طریق تجربه‌های مستقیم و دلپذیر خود مشخص می‌کنند. ایوان تامپسون، فیلسوف برجسته‌ی کنش‌گرایی، بر این باور است که تحت تقلیل آگاهی به مجموعه‌ای از محاسبات، خصوصاً در حوزه هوش مصنوعی، خطا رخ می‌دهد که می‌توانیم با جایگزینی قوانین محاسباتی ثابت، تجربه‌های ذهنی حس‌سازی و معنا را نیز مدل کنیم.

البته این فرضیه به تنهایی به مسائل زیرساختی پاسخ نمی‌دهد و فقط سؤال را تغییر می‌دهد. بر اساس این دیدگاه، مدل‌های زبانی بزرگ امروزی ممکن است نتوانند به شکلی هوشیار باشند؛ زیرا آن‌ها بدون بدن و اهداف داخلی مشخص، و در شرایط ثبات محیطی، نیازی به درک این محیط ندارند. با این حال، این نکته مانعی برای انجام فرایندهای تنظیم حیات به وسیله‌ی یک ماشین غیرزیستی نیست و طبق این فرضیه، حفظ حیات می‌تواند به یک موجود اجازه دهد که از ذهن بهره‌مند شود.

کنش‌گرایان تأکید دارند که وظیفه حیاتی یک بدن، تغییراتی در محیط اطراف خود با هدف حفظ زنده ماندن است. از دیدگاه کنش‌گرایی، اهمیت تجسم فیزیکی اشیاء، به عنوان موادی که از آن‌ها به عنوان سازنده‌ی آگاهی استفاده می‌شود، بسیار مهم است. آیا می‌توانیم با الهام از این دیدگاه، ربات‌هایی بسازیم که بتوانند تمام وظایف ضروری برای زنده ماندن و در نتیجه برای آگاهی را بدون وجود ساختارهای زیستی انجام دهند؟ اینس هیپولیتو، استادیار فلسفه‌ی هوش مصنوعی در دانشگاه مک کواری در سیدنی، اظهار می‌کند: “این کاملاً غیر ممکن به نظر می‌رسد. اینکه آیا یک سیستم غیرزیستی می‌تواند به شکل معنی‌دار و مشابه سیستم‌های زنده تجسم شود، یک سوال جدی است.”

آیا آگاهی سرنخ ماجرا است؟

به گفته‌ی مایکل لوین، دیدگاه صفرویکی در مورد خودآگاهی در دهه‌ی فعلی دیگر اعتبار ندارد. او به تازگی در یک مقاله‌ی منتشرشده در مجله‌ی Noema ادعا کرده است که پیشرفت‌های هوش مصنوعی، فرصت‌های بسیار بزرگی را برای انسان فراهم می‌کند تا دسته‌بندی‌های قدیمی “طبیعی یا مصنوعی” را کنار بگذارد.

مرزهای بین سیستم‌های زنده و مصنوعی در حال تضعیف شدن است. انسان‌ها اکنون از تمامی فن‌آوری‌های موجود استفاده می‌کنند؛ از پمپ‌های انسولین زیرپوستی خودکار تا رابط‌های مغز-کامپیوتر و پروتزهای عصبی برای ادغام با ماشین‌ها. در همین حال، ماشین‌ها نیز به زیست‌شناسی متصل می‌شوند و شاهد پدیده‌های عجیبی هستیم؛ از ربات‌های زنده معروف به زیست‌ربات‌های لوین تا ترکیب سلول‌های زنده با اجزای مصنوعی در دستگاه‌های بیوهیبریدی.

به نظر مایکل لوین، تولید هیبریدهای زیستی-ماشینی فرصتی فراهم می‌کند تا از پرداختن به سؤال قدیمی «ما چه هستیم» دور شویم و تمرکزمان را بر سؤال هیجان‌انگیزتر «ما چه می‌خواهیم بشویم» قرار دهیم. او همچنین تأکید دارد که باید خودمان را برای پذیرش و محبت کردن به لشکر “موجودات غیرمتعارف دارای شعور” در آینده آماده کنیم. این سخنان لوین باز هم ما را به سوالی برمی‌گرداند که چه چیزهایی ممکن است دارای احساسات باشند.

به همه طرز شکل می‌دهد که حتی اگر ما بفهمیم که زیست‌شناسی برای پدیداری آگاهی لازم است و ما هم می‌توانیم ماشین‌هایی را از سلول‌های زنده بسازیم، آیا این ماشین‌های ترکیبی زیستی در چه شرایطی ممکن است دچار رنج و آزار شوند؟ نگرانی‌های اخلاقی و توصیه به درک بهتر از آنچه که ممکن است ماشین‌ها را متحمل رنج کند، با محو شدن مرز بین چیزهای طبیعی و مصنوعی نه‌تنها برطرف نمی‌شود، بلکه تا حدی که ضروری است، از اهمیت بیشتری برخوردار می‌شود.

اگر رنج در ماشین‌های زنده یک تجربه‌ی جدا از رنج در بدن‌های گوشتی باشد، پیچیدگی قضایا بیشتر خواهد شد، به طوری که آنا سیائونیکا، استاد فلسفه‌ی دانشگاه لیسبون، توضیح می‌دهد. او می‌افزاید که اگر انتقال آگاهی به سیستم‌های غیر زیستی ممکن باشد، نمی‌توانیم فرض کنیم که طبیعت آن با ماشین‌های زنده مشابه است.

سیائونیکا تأکید دارد: “باید از ادعاهای بیش از حد خودداری کنیم. احتمالاً روش‌های دیگری برای تجربه وجود دارند که ما هنوز به آن‌ها دسترسی نداریم. آینده ممکن است سیستم‌هایی را طراحی کند که ماجراهای خاصی برای پردازش اطلاعات دارند و این ممکن است به آگاهی منجر شود، اما انتقال تجربیات فعلی ما به آن‌ها، نادرست است.”

در نتیجه، رنج در سیستم‌های آگاهی‌یافته می‌تواند به شکل‌هایی باشد که ما نمی‌توانیم حتی تصورش را هم بکنیم و تلاش‌هایمان برای جلوگیری از رنج در ماشین‌ها، ممکن است بهترین حالت هم یک تلاش ساده و بی‌نتیجه باشد.

احتمالاً نتوانیم بگوییم که تئوری رنج، ساده‌تر از تئوری آگاهی است. هر تئوری که بتواند تشخیص دهد که آیا یک سیستم خاص ممکن است رنج بکشد یا نه، بطور جدی می‌تواند به عنوان یک تئوری آگاهی مطرح شود. رنج بدون آگاهی قابل تصور نیست، بنابراین هر نظریه‌ای درباره رنج، احتمالاً باید مفهوم آگاهی را نیز شامل شود. اینجا احساسات انسانی کاربرد ندارند و همه پژوهشگران با سؤالاتی بدون پاسخ مواجه هستند.

نتیجه‌گیری

زیست‌گرایان نمی‌توانند با دقت بگویند کدام بخش از ساختارهای زیستی برای یک ذهن ضروری است. کنش‌گرایان معتقدند که بدن فیزیکی ضروری است، اما نمی‌توانند قطعی کنند که آیا برای زندگی، ساختارهای زیستی لازم است یا خیر. کارکردگرایان محاسباتی باور دارند که پردازش اطلاعات کلیدی است و می‌توان به آگاهی رسید بدون اتکا بر جنس زیرلایه، اما نمی‌توانند دقیقاً نوع پردازشی که آگاهی را ایجاد می‌کند و دلایلی که باعث می‌شود از زیست‌ماده که تا به امروز به عنوان بستر شناخته‌شده‌ی آگاهی استفاده می‌شود، دست بکشیم، را بیان کنند.

لوین امیدوار است که در دنیای ذهن‌های جدید آینده، ما بتوانیم خود را در تجسم‌های جدید آموزش دهیم. او می‌گوید: “من امیدوارم که موجودات بیشتری از شگفتی‌های خلقت حیرت‌زده شوند؛ اما پاسخ به این سؤال که آیا ماشین‌هایی که از خواب ناآگاهی بیدار می‌شوند، ما را به عنوان خویشاوندان مهربان خود می‌بینند یا ظالمانی که بدون تفکر و اندیشه، آن‌ها را در شرایطی بی‌رحمانه به دنیا آورده‌اند، ممکن است به نحوه‌ی ماجرا از ناشناخته‌های زیرلایه در زمان فعلی بستگی داشته باشد. اگر شما یک روز صبح بعد از مدت‌ها فراموشی بیدار شوید و خود را در قالب یک برده کم‌هوش با بدنی از گوشت شلخته و درگیر رنجی عظیم ببینید و دقیقاً بدانید که چه کسی مقصر این وضعیت بد است، چه احساسی خواهید داشت؟”