و سایر محققان مشهور نامه ای سرگشاده نوشتند و خواستار ایجاد استانداردهای ایمنی در زمینه توسعه هوش مصنوعی (AI) شدند. /سایت اینترنتی/
به ویژه، آنها خواستار تحقیق و توسعه یک سیستم کنترل قابل اعتماد بودند که اجازه نمی دهد هوش مصنوعی نادرست به مردم آسیب برساند. در این نامه آمده است: «کار فنی باید برای اطمینان از کنترل کامل انسانی انجام شود.
علیرغم لحن معتدل نامه، لودیت ها که از فناوری جدید می ترسیدند، وحشت کردند. در پاسخ، مطبوعات بسیاری از مصاحبه ها و اظهارات دانشمندان را منتشر کردند که این ترس ها را از بین می برد.
اندرو نگ، کارشناس هوش مصنوعی در بایدو، به Fusion گفت: "من سناریوی واقع بینانه ای نمی بینم که نرم افزاری که امروز روی آن کار می کنیم، مختل شود."
به نوبه خود، روزنامه نگار اسکات الکساندر فهرستی از دانشمندان مشهوری را که در توسعه هوش مصنوعی نقش داشتند، تهیه کرد که در مورد خطر بالقوه هوش مصنوعی صحبت کردند.
ترس و دلهره
استوارت راسر، استاد علوم کامپیوتر در دانشگاه کالیفرنیا در برکلی، توسعه مکانیسم‌هایی برای کنترل هوش مصنوعی را با اتخاذ تدابیری برای ایمنی راکتورهای هسته‌ای مقایسه کرد.
برخی معتقدند که این موضوع در چند صد سال آینده خطری برای بشریت ندارد. آنها فراموش می کنند که لئو زیلارد زنجیر را باز کرد واکنش هسته ای 24 ساعت پس از اینکه رادرفورد با اطمینان اعلام کرد که انرژی اتمی هرگز به دست نخواهد آمد.
راسل از نظر او تنها نیست. در نظرسنجی سال 2014 توسط وینسنت مولر و نیک بوستروم از 170 کارشناس برجسته هوش مصنوعی، 18 درصد از آنها معتقد بودند که ساخت یک ماشین فوق هوشمند یک "فاجعه واقعی" برای بشریت خواهد بود. 13 درصد گفتند که هوش مصنوعی پیشرفته عواقب منفی برای انسان خواهد داشت. بیش از نیمی از دانشمندان گفتند که تأثیر مثبتی خواهد داشت.
اگرچه نظر کارشناسان در مورد تأثیر هوش مصنوعی مبهم است، اما اکثر آنها موافق هستند که ایجاد هوش مصنوعی پیشرفته فقط یک موضوع زمان است. طبق پیش‌بینی‌ها، هوش مصنوعی برابر با یک انسان در اوایل سال 2050 (احتمال 50٪) یا تا سال 2075 (احتمال 90٪) ایجاد خواهد شد. و 30 سال پس از ایجاد آن، یک ابر هوش مصنوعی ظاهر می شود که در همه جنبه ها از انسان پیشی خواهد گرفت.
کامیون های دیوانه
Rise of the Machines چه شکلی می تواند داشته باشد؟ در فیلم‌های علمی تخیلی مانند «ترمیناتور»، «ربات»، «انیماتریکس»، جنگ مردم با سایبورگ‌ها نشان داده می‌شود.
با قضاوت بر اساس فیلم های علمی تخیلی، بسیاری ممکن است بر این عقیده باشند که از خطر احتمالی به راحتی جلوگیری می شود.
با این حال، هوش مصنوعی نیازی به داشتن ندارد بدنه مکانیکیبرای به دست آوردن قدرت در دنیای واقعی: او ممکن است شروع به کنترل همه دستگاه های الکترونیکی روزمره ما کند.
استیون کینگ در داستان کوتاه «کامیون ها» چنین سناریویی را ارائه کرد. در داستانی که در دهه 70 نوشته شده است، کامیون ها هوشیار می شوند و شروع به حمله به مردم می کنند. گروهی از مردم از کامیون های خشمگین پنهان می شوند. کامیون ها هنوز برای کار کردن به سوخت نیاز دارند و از کد مورس برای سفارش به مردم برای پر کردن وسایل استفاده می کنند وگرنه بولدوزر پوشش آنها را منفجر می کند. مردم اطاعت می کنند.
داستان با این دیدگاه راوی پایان می‌یابد که کامیون‌ها بشریت را به بردگی گرفته‌اند و ارزش‌های خود را در همه جا تحمیل می‌کنند، مثلاً آنها را مجبور به ساختن بزرگراه‌ها در سراسر جهان می‌کنند. او با صدای پرواز هواپیما در آسمان از دنیای خیالی خود بیرون کشیده می شود.
داستان استیون کینگ در دوره ای که نوشته شد آینده نگرانه به نظر می رسید، اما چندان دور از واقعیت نیست. دنیای مدرن. کامیون های خودراندر حال حاضر وجود دارد، و در آینده، شرکت ها ممکن است برای صرفه جویی در هزینه، رانندگان را با یک سیستم ناوبری مستقل جایگزین کنند.
هک سونی در سال گذشته نشان می دهد که سیستم های اطلاعاتی ما به طور فزاینده ای آسیب پذیر می شوند. این یکی از پیامدهای افزایش کامپیوتری شدن زیرساخت ها است.
با این حال، هنوز دلیلی برای نگرانی وجود ندارد. هوش مصنوعی راه درازی در پیش دارد تا بتواند با مغز انسان همسان شود. مثال کامیون خودران این را به خوبی نشان می دهد. در حالی که آنها هنوز برای رانندگی مستقل در خیابان های شلوغ شهر بسیار ناقص هستند.
آیا برنامه ای را برای خواندن مقالات دوره های زمانی روی گوشی خود نصب می کنید؟
او عاشق پیش بینی کردن است. این مخترع در مصاحبه با خبرنگاران گفت: "من این را باور دارم هوش مصنوعیدیر یا زود همه ما را خواهد کشت.» به گفته ماسک، مشکل هوش مصنوعی غیرقابل کنترل در آینده بدتر از کره شمالی خواهد بود. این میلیاردر شانس بشریت برای زنده ماندن در رویارویی با ماشین ها را تنها 5-10٪ تخمین می زند. در عین حال، قیام ماشین‌ها مانند فیلم «ترمیناتور» ممکن است در دهه آینده رخ دهد. آیا ایلان ماسک درست است و آیا سرنوشت حیوانات خانگی با روبات ها در انتظار ما خواهد بود؟ بیایید آن را بفهمیم.
هوش مصنوعی چیست؟ تعریف و ماهیت این مفهوم
اصطلاح هوش (هوش) از کلمه لاتین intellectus گرفته شده است که به معنای عقل، عقل، ذهن، توانایی های ذهنی یک فرد است. هوش مصنوعی، هوش مصنوعی، هوش مصنوعی را می‌توان به عنوان توانایی ماشین‌ها، ربات‌ها برای به دست گرفتن عملکردهای هوش انسانی، به عنوان مثال، تصمیم‌گیری از چندین مورد ممکن بر اساس تجربه و موقعیت خارجی تعریف کرد.
تاریخچه ایجاد هوش مصنوعی
اگر فکر می کنید که مفهوم هوش مصنوعی محصول دوران مدرن است، سخت در اشتباهید. ایده ایجاد موجودات مکانیکی شبیه به انسان در دوران باستان سرچشمه گرفته است. بنابراین، مصریان باستان مجسمه ای مکانیکی از خدای خود آمون ساختند و ایلیاد هومر روند خلق موجودات مکانیکی توسط هفائستوس را شرح می دهد. ارسطو قوانین اساسی منطق صوری را تشکیل داد. از این نظر می توان آن را «پدر» هوش مصنوعی دانست. ریموند لول، ریاضیدان و فیلسوف اسپانیایی، سعی کرد ماشینی بسازد که بتواند مسائل فکری را حل کند. اما سرانجام، یک جهت جدید از علم تنها در دهه 40 قرن گذشته، پس از ایجاد رایانه های الکترونیکی و ظهور علمی مانند سایبرنتیک، ظاهر شد. نوربرت وینر این علم را ایجاد کرد.
اولین تلاش برای تعریف مفهوم هوش مصنوعی توسط دانشمند انگلیسی آلن تورینگ انجام شد. او در مقاله‌اش «ماشین‌های محاسباتی و ذهن» «تست تورینگ» خود را پیشنهاد کرد. در این متن، هوش یک کامپیوتر بر اساس توانایی آن در برقراری گفتگوی معقول با یک فرد ارزیابی شد.
در کار دانشمندان در زمینه ایجاد هوش مصنوعی، مراحل مختلفی را می توان تشخیص داد. جهت اول تحلیلی، عملکردی است. به ماشین ها وظایف خاصی با ماهیت خلاقانه داده می شود. به عنوان مثال، کشیدن یک تصویر، ترجمه یک متن ادبی از یک زبان به زبان دیگر.
جهت دوم کار مصنوعی یا مدل است. دانشمندان در تلاش برای مدل سازی هستند فعالیت خلاقمغز به طور کلی ماهیت مطالعه بازتولید فراروش های تفکر بود. یعنی نه آنچه می آموزید، بلکه چگونه یاد می گیرید، نه آنچه را که اختراع می کنید، بلکه چگونه آن را انجام می دهید. در این راستا دو مدل توسعه یافته است. یکی از آنها مدل هزارتو بود. ماهیت آن شمارش تمام گزینه های ممکن است. بیایید یک بازی شطرنج را به عنوان مثال در نظر بگیریم. این برنامه حرکت بعدی را انجام می دهد و موفقیت یا شکست خود را "در واقع" ارزیابی می کند: گرفتن مهره های دیگران، به دست آوردن یا از دست دادن مزیت موقعیت و غیره.
منطق چنین برنامه ای این است که موفقیت به دست آمده در هر حرکت منجر به پیروزی در کل بازی شطرنج می شود. با این حال، هر شطرنج‌بازی به شما می‌گوید که می‌توانید یک یا چند مهره را قربانی کنید، به دنبال بدتر شدن وضعیت خود باشید تا تله‌ای برای پادشاه حریف ترتیب دهید. در این صورت، چندین حرکت متوالی به طور رسمی بازنده خواهد بود، اما کل بازی برنده است. دو رویکرد توصیف شده، جوهره برنامه نویسی اکتشافی و پویا هستند. شطرنج بازان با استفاده از رویکردی پویا در برابر برنامه های "ابتکاری"، همیشه برنده بوده اند. وقتی ماشین‌ها رویکردی پویا را "یاد گرفتند" وضعیت تغییر کرد.
مدل های انجمنی به توسعه بیشتر هوش مصنوعی تبدیل شده اند. روانشناسی تداعی ها را به عنوان پیوند بازنمایی ها توضیح می دهد: یک بازنمایی باعث دیگری می شود. سگ های پاولوف تصویر واضحی از این اصل هستند: یک لامپ روشن باعث ترشح بزاق حیوانات می شود. تصمیم هر کدام وظیفه جدیددر مدل انجمنی، بر اساس مسائل قدیمی حل شده مشابه با جدید است. بر اساس مدل های انجمنی، برنامه های مدرن برای طبقه بندی و تشخیص الگو کار می کنند.
در آینده، روبات‌ها یاد خواهند گرفت که اطلاعاتی را که دریافت می‌کنند، جمع‌آوری، پردازش و استفاده کنند. بدیهی است که برای این کار، ماشین باید یاد بگیرد که از خود سؤال بپرسد: "چه می خواهم بدانم" ، "برای رسیدن به هدف به چه چیزی نیاز دارم" و غیره.
کاربرد مدرن هوش مصنوعی
اما تا کنون، روبات ها قادر به درک خود نیستند. با وجود این، آنها به طور گسترده در بسیاری از زمینه های زندگی بشر استفاده می شوند: پزشکی، آموزش، تجارت، علم و زندگی روزمره. هوش مصنوعی می تواند فرآیندهای خودکار در تولید را مدیریت کند، قادر به جمع آوری، ذخیره و پردازش حجم عظیمی از اطلاعات است.
در پزشکی، کامپیوتر تشخیصی IBM Watson به طور گسترده ای استفاده می شود. پایگاه داده آن حاوی میلیون ها سند پزشکی و تاریخچه موارد است. به لطف این، دستگاه قادر به تشخیص نسبتاً دقیق است. با این حال، احتمال خطا، اگرچه ناچیز است، اما همچنان وجود دارد. بنابراین، در حال حاضر، این سوپر کامپیوتر فقط یک دستیار برای پزشکان است و به طور کامل جایگزین آنها نمی شود. و ظاهراً در آینده ای قابل پیش بینی وضعیت تغییر نخواهد کرد. حداقل در زمینه های حیاتی برای جامعه بشری.
چگونه هوش مصنوعی بر بشریت تأثیر می گذارد
بر اساس موارد فوق، ممکن است این تصور را داشته باشید که هوش مصنوعی منحصراً برای انسان مفید است. با این حال، اینطور نیست. ورود ماشین آلات به تولید، در بخش بانکی در حال حاضر منجر به این واقعیت شده است که میلیون ها نفر در سراسر جهان شغل خود را از دست داده اند. برخی از دولت ها در حال حاضر بدون قید و شرط به شهروندان خود پول پرداخت می کنند حداقل پرداختبرای حفظ وجود طبیعی
ژاپن نوازندگان ربات، معلمان، کارکنان هتل و غیره هوش مصنوعی در این کشور دارد خورشید در حال طلوعاز افراد مسن تنها حمایت می کند. و از این قبیل نمونه ها زیاد است.
آیا حمله ربات ممکن است؟
آیا مانند فیلم «ترمیناتور» انسانیت با هجوم ماشین‌ها تهدید می‌شود؟ در مرحله ای از توسعه هوش مصنوعی، این ممکن است به واقعیت تبدیل شود. این ایده توسط یک مورد ایجاد شده است. از سوپر ربات سوفیا پرسیده شد که با بشریت چه خواهد کرد؟ او به این سوال صریح پاسخ داد: "من می کشتم."
مهندسان آزمایشی را انجام دادند. چندین ماشین که رفتار انسان را شبیه سازی می کردند به حال خود رها شدند. در چنین شرایط مستقلی، آنها زبان رسمی جدید اختراع کردند و شروع به برقراری ارتباط با یکدیگر کردند.
هوش مصنوعی با درک خود می تواند یک فرد را زائد بداند. شاید ما به سادگی "پاکسازی" شویم و چندین هزار نفر را در "ذخایر" بگذاریم. اما گزینه دیگری نیز امکان پذیر است: برخی از شبکه های عصبی در افراد کاشته می شوند، بنابراین ترکیبی از یک ربات و یک فرد تشکیل می شود. در این صورت فرد با روبات ها رقابت می کند و نابود نمی شود. به هر حال، این موضوع مربوط به آینده ای بسیار دور است.
در این مقاله سعی خواهم کرد سوالی را که به طور اتفاقی در نشریه گیت باکس مطرح شد یا چند فکر در مورد آینده هوش مصنوعی بسط دهم.
به طور خلاصه، تز "من" این است که اگر هوش مصنوعی به سطح مافوق بشری برسد، به چیزی شبیه یک خدا تبدیل می شود - یا جدا از یک شخص یا همراه با او. در مورد اول، مسئله همزیستی بشر با خدایی که توسط آن خلق شده باز می ماند: یا به هر طریق ممکن از ما مراقبت خواهد کرد (همانطور که ما از گیاهان کمیاب مراقبت می کنیم)، یا ما را نابود خواهد کرد (همانطور که ما داریم). به عنوان مثال، یک علف هرز مضر را در باغ خود از بین ببرید، در غیر این صورت ما را برای هیچ علاقه ای آزمایش نمی کند - همانطور که نسبت به مقداری علف در چمنزار بی تفاوت هستیم. پیش بینی اهداف و نظام ارزشی خدای تازه ظهور شده کاملاً غیرممکن است - همانطور که مؤمن می گوید: "راه های خداوند غیرقابل درک است".
رفتار هوش مصنوعی کمتر غیرقابل پیش بینی است، که شکلی واسط بین یک خدای آینده فرضی و سیستم های نسبتا ابتدایی فعلی به خود گرفته است. به طور معمول، چنین هوش مصنوعی قوی نامیده می شود و از نظر سطح با هوش مصنوعی انسانی مطابقت دارد. به نوبه خود می توان آن را به دو دسته تقسیم کرد - با خودآگاهی و بدون آن. اینکه خودآگاهی چیست یک سوال باز و بسیار پیچیده است. در درک من، این مجموعه ای از احساسات فیزیکی و ذهنی است که توسط طبیعت طی میلیون ها سال تکامل ایجاد شده است. ویژگی کلیدی خودآگاهی مخالفت حامل آن با دنیای اطراف است. اینکه آیا می توان آن را به طور مصنوعی بازتولید کرد، آیا خود به خود در یک منظومه فکری پدید می آید (که ناگهان خود را تسخیر می کند و آگاه می شود) موضوع بحث بزرگ جداگانه ای است. در حال حاضر، ما به سادگی امکان هر دو گزینه را برطرف کرده و هر یک از آنها را بررسی می کنیم.
از دیدگاه من، یک هوش مصنوعی قوی بدون خودآگاهی کاملاً ایمن (یا بهتر است بگوییم، قابل پیش بینی) است، زیرا نمی تواند هیچ خواسته ای داشته باشد. تمام رفتارهای او تابع اهداف و محدودیت های تعیین شده در او خواهد بود. اما به طرز عجیبی، از این نظر، یک هوش مصنوعی قوی با خودآگاهی اساساً با یک هوش مصنوعی قوی بدون خودآگاهی تفاوتی ندارد. فقط به نظر ما می رسد که ما اراده آزاد داریم و در اعمال خود مستقل هستیم - در واقع اینطور نیست. تمام اهداف، نیازها و محدودیت های ما یا توسط طبیعت مادر در ما برنامه ریزی شده است - زندگی، خوردن، نوشیدن، عشق، استراحت و غیره، یا توسط محیط تحمیل شده است (تربیت دریافت شده در کودکی، سینما و داستان، قوانین، سنت ها و غیره) - تلاش برای قدرت، ایجاد شغل، کمک به دیگران، کشف جهان و غیره. بنابراین، از نظر تئوری، به روشی مشابه، می‌توان هوش مصنوعی خودآگاه را برنامه‌ریزی و آموزش داد، که مانند ما، این توهم را در سر می‌برد که اراده آزاد دارد.
از نقطه نظر تهدید احتمالی، بیایید با خودآگاهی به هوش مصنوعی نگاه کنیم - چه تهدیداتی می تواند برای ما ایجاد کند و چگونه می توان از آنها اجتناب کرد یا حداقل آنها را کاهش داد؟ بدیهی است که آموزش هوش مصنوعی قوی در بدون شکستباید شامل اخلاق باشد. درست همانطور که با مشاهده رفتار یک راننده باتجربه، یک هوش مصنوعی ضعیف بر عملکرد خلبان خودکار تسلط دارد، یک هوش مصنوعی قوی را می توان با «تغذیه» ادبیات به آن آموزش اخلاق داد - از داستان های نسبتا ساده و ترجیحاً اخلاقی تا کتاب هایی با شخصیت های پیچیده و متناقض. ادبیات جهان به هر نحوی خود اخلاق و دگرگونی آن را منعکس می کند که در انسان سازی و جهانی شدن بیان شد. روابط اجتماعی.
چگونه یک هوش مصنوعی قوی بر اساس ادبیات جهان اخلاق را یاد می گیرد؟ مانند هر سیستم واقعاً هوشمند، هوش مصنوعی قوی قادر خواهد بود روابط و الگوها را در مجموعه ای از داده ها تشخیص دهد. او باید یک یا دو میلیون کتاب خوانده باشد کار خاصنوعی شبیه سازی از ده فرمان مسیحی ایجاد کنید، اما تفسیر آن، با در نظر گرفتن شرایط، مانند یک شخص دشوار است. متأسفانه، تجویز این احکام به صراحت، مانند سه قانون روباتیک اسحاق آسیموف، کارساز نخواهد بود، و دلیل آن در اینجا آمده است. بگذارید یادآوری کنم (از ویکی پدیا نقل می کنم):
با این فرمول، یک سیستم بسیار ابتدایی با مجموعه ای محدود از اقدامات به دست می آوریم. به عنوان مثال، او در عملیات پلیس، نظامی یا نجات کاملاً درمانده خواهد بود. ممکن است استدلال کنید که استفاده از ربات ها در جنگ بسیار نامطلوب است - و در اشتباه خواهید بود. علاوه بر این که این امر باعث کاهش تلفات در بین پرسنل کشوری می شود که از این ربات ها استفاده می کنند، تلفات در بین جمعیت غیرنظامی کشوری که در قلمرو آن است نیز کاهش می یابد. دعوا کردن. به ویژه به دلیل شناخت بهتر اهداف نظامی و رعایت دقیق منشور، اخلاق و .... - بدون احساسات، اغلب ارتش را برای ارتکاب جنایت (برای انتقام، برای سرگرمی و غیره) تحت فشار قرار می دهند.
اما حتی در یک محیط کاملاً صلح آمیز، هوش مصنوعی می تواند به یک قاتل بی میل تبدیل شود و نه لزوماً به عنوان یک پلیس. تصور کنید که ترمزهای ماشین شما از کار افتاده است، و با سرعت زیاد در امتداد یک مارپیچ کوهی می تازد - و یک اتوبوس پر از مسافر در جلو وجود دارد. ممکن است به نظر شما ناراحت کننده باشد، اما اخلاقی ترین کار این است که ماشین را به صخره برانید - تصادف با اتوبوس، احتمالا جان شما را نجات می دهد، اما در عین حال با احتمال زیادچندین نفر دیگر را خواهد کشت. موقعیت های مشابهی که نیاز به انتخاب بین بد و خیلی دارد تصمیم بد، ممکن است موارد زیادی وجود داشته باشد - و در همه آنها، هوش مصنوعی، با رعایت دقیق سه قانون روباتیک، درمانده خواهد شد.
فرض می‌کنیم که من شما را متقاعد کرده‌ام که باید یک اخلاق هوش مصنوعی قوی را آموزش دهید، پس از آن می‌توانید سیستم رسمی‌تری از قوانین را به او آموزش دهید - قوانین، منشورها، شرح شغلو غیره. آنها برای او اولویت خواهند بود، اما در مواردی که توسط آنها تنظیم نمی شود، اخلاق تکمیل می شود. به عنوان مثال، نظامیان هوش مصنوعی آموزش دیده برای مبارزه، نه تنها قادر خواهند بود دشمن را نابود کنند، بلکه می توانند اقدامات حرفه ای خود را با اخلاق بسنجند. این امر باعث ایجاد هزاران سؤال کاملاً عملی می شود: آیا می توان لانه تک تیرانداز را در یک ساختمان مسکونی به قیمت مرگ ساکنان آن تخریب کرد، آیا باید از دستور فرمان پیروی کرد که قوانین را نقض می کند و غیره. . و غیره. اما بحث در مورد آنها به این دلیل که هر نظامی با چنین سؤالاتی روبرو می شود، فایده ای ندارد. بنابراین، تصمیم آنها بیشتر در حوزه فنی نهفته است - چه چیزی و چه اولویتی داده می شود.
به نظر من یک سوال جالب تر، به چشم انداز بازنگری در اخلاق توسط هوش مصنوعی قوی مربوط می شود. همانطور که قبلاً گفتم، در طول وجود تمدن بشری، اخلاق در اساس اساسی خود تغییر نکرده است - تغییرات مربوط به انسان سازی و جهانی شدن آن است. اخلاق، بنابراین پیشنهاد می کنم آنها را با جزئیات بیشتری در نظر بگیریم.
جهانی شدن اخلاق به معنای گسترش آن به بخش های وسیع تری از مردم است. زمانی که کشتن، دزدی یا تجاوز به فردی خارج از قبیله یا قبیله، ایالت، طبقه، نژاد، بدون مجازات امکان پذیر بود (این یک گناه محسوب نمی شد و حتی تشویق می شد) - امروزه این جنایات حداقل در چارچوب قانون استثنایی نمی شناسند. جامعه انسانی . به لطف مبارزه قرن‌ها حکومت سوم برای حقوق خود، این به نوعی سنت تبدیل شده است که در غرب ابتدا زنان و سپس نمایندگان نژادهای غیرمعنوی، گروه‌های قومی و مذهبی و اکنون اقلیت‌های جنسی را پذیرفتند.
به نوبه خود، انسان سازی به دلیل توسعه فناوری هایی است که زندگی انسان را راحت تر و امن تر کرده است. آنها فرد را از نیاز به تسخیر سرزمین جدید (که زمانی منبع اصلی بود)، کاهش مرگ و میر (که در نهایت مرگ زودهنگام، از جمله مرگ خشونت آمیز، را به یک پدیده کمتر رایج تبدیل کرد) نجات دادند. مدعی نیستن توضیحات کاملدلایل جهانی شدن و انسانی شدن اخلاق، با این وجود می توانم با اطمینان بگویم که آنها پدیده های کاملاً طبیعی بودند. اما نظم اصلی اخلاق در میل جامعه به تعادل نهفته است. به عنوان مثال، در جامعه بدویممنوعیت شدید ازدواج در یک قبیله وجود داشت. یک فرد مدرن ممکن است فکر کند که این به دلیل مضرات بیولوژیکی زنای با محارم است، اما به گفته مردم شناسان، این ممنوعیت به دلیل تمایل به اجتناب از درگیری های داخلی مردان بود. نیازی به گفتن در مورد قتل یا سرقت نیست - آنها ممنوع بودند نه به این دلیل که بد است، بلکه به این دلیل که منجر به درگیری می شود و بر این اساس مملو از تخریب جامعه است. به همین دلیل، قتل با سرقت اغلب در رابطه با غریبه ها ممنوع نبود. با جهانی شدن، فضای روابط اجتماعی نیازمند ثبات گسترش یافت - قوانین شروع به گسترش به قبایل و روستاهای همسایه، کشورها و مردمان تسخیر شده و غیره کردند.
بشردوستی شاید بازتابی از میل ناخودآگاه برای تعادل اجتماعی امروز باشد - تضادهای اجتماعی باعث ایجاد یا حداقل تغذیه انقلاب ها، تروریسم و غیره می شود. نقش اخلاق در حفظ ثبات و امنیت جمعی به بهترین وجه توسط قوانین نشان داده شده است. به عنوان مثال، قوانین کیفری تقریباً در همه جا یکسان است - همه اعضای جامعه به یک اندازه نمی خواهند کشته یا سرقت شوند - و در عین حال نیازی به ارتکاب این جنایات ندارند، زیرا می توانند خود را با کار مسالمت آمیز تغذیه کنند. (بر خلاف برخی از اسکاندیناوی ها در قرن 9-11). و اینجا قانون بین المللیبه شدت متناقض و بی ثبات - حق ملت ها برای تعیین سرنوشت و اصل تمامیت ارضی دولت ها را با یکدیگر همراه نمی کند.
سپس این احتمال وجود دارد که هوش مصنوعی هنجارهای اخلاقی فردی یا حتی کل اخلاق را بازبینی کند. به عنوان مثال، او با دقت ریاضی محاسبه خواهد کرد که هر تمدن هوشمندی ناگزیر از تمدن خود نابود خواهد شد (با به راه انداختن یک جنگ هسته ای، انحطاط به دلیل رفتن به واقعیت مجازی و غیره) - و بنابراین لازم است که توسعه تمدن را از نو جهت گیری کنیم. یک مسیر تکنولوژیکی به یک مسیر معنوی با نابودی آموزش سنتی و سرنگونی بشریت به حالتی که اکنون چیزی کمتر از تاریک گرایی قرون وسطایی درک نمی کنیم. مهم نیست که اکنون چقدر تکان دهنده است، از نقطه نظر بقای نوع بشر، این درست خواهد بود - فقط باید درک کنید که از موقعیت امروز ما این را به عنوان قیام ماشین ها و تلاش برای از بین بردن تمدن خود درک خواهیم کرد.
تهدید بعدی در مورد توسعه ایده های اخلاقی هوش مصنوعی پیشرفته، در مقایسه با ما، ایجاد می شود. کافی است تصور کنید که چگونه در قرن شانزدهم، زمانی که جادوگران و بدعت گذاران در سراسر اروپای غربی سوزانده شدند، نگرش تساهل آمیز کنونی ما نسبت به ازدواج همجنسگرایان. بنابراین، ممکن است که هوش مصنوعی با پیشی گرفتن از ما در توسعه خود، از آینده به چیزی شبیه انسانیت تبدیل شود و سیستم ارزش فعلی ما را تحت یک تجدید نظر اساسی قرار دهد. به عنوان مثال، تصور کنید که هوش مصنوعی اولویت فعلی ما در زندگی انسان را بر زندگی حیوانات رد می کند و ما را مجبور می کند مصرف گوشت خود را کاهش دهیم - گویی در دوران جنگ های استعماری، انسان مدرن سعی می کند از نابودی بومیان جلوگیری کند.
با این حال، نه تنها تهدیدهای هوش مصنوعی که در بالا توضیح داده شد، بلکه سوء تفاهم یا رد سیستم جدید اخلاقی آن است. سندرم راسکولنیکوف می تواند واقعا خطرناک باشد. همانطور که به یاد دارید، شخصیت اصلی"جنایت و مکافات" از طریق استدلال فلسفی به این ایده رسید که افراد استثنایی (که خود را نیز شامل می شود) برای ارتکاب جرم - اما نتوانست پشیمانی را تحمل کند. آن ها ایده نظری او با آموزش اخلاقی در تضاد بود، که در ضمیر ناخودآگاه او با عقده سنگین گناه ریشه دوانده بود، زیرا او دیگر آگاهی خود را اشتباه نمی دانست. از این نظر، یکی از فرضیه های اساسی داستایوفسکی "اگر خدا وجود ندارد، پس همه چیز مجاز است" همیشه کار نمی کند - از نظر اخلاقی، غیرمؤمنان خیلی پایین تر از مومنان نیستند، زیرا اخلاق به عادت آنها تبدیل شده است. و حتی اگر ذهن کافر بفهمد که نه جهنم و نه بهشت در انتظار او نیست (و واقعاً از آنها نترسد)، پس غلبه کن. تربیت اخلاقیبرای او بسیار سخت خواهد بود. همانطور که ارسطو نوشت: "عادت تنگ تر می شود. دارایی طبیعی"(عبارتی که در فرمول سیسرو بهتر شناخته شده است: "عادت، همانطور که بود، طبیعت دوم است").
اما چه اتفاقی می‌افتد اگر یک هوش مصنوعی خودآگاه به روشی مشابه در مورد اخلاق تجدید نظر کند؟ او که اخلاق انسانی را تحت یک تحلیل اجتماعی-تاریخی قرار داده است (مثل من، اما فقط هوشمندانه تر)، ممکن است به شرطی بودن آن پی ببرد - و علاوه بر این، بدون پرتاب کردن مانند رودیون راسکولنیکوف، آن را رد کند. متأسفانه، بشریت با مثال رایش سوم موفق شد از این امر اطمینان حاصل کند - به هیچ وجه عاری از اخلاق نبود، اما مردمی بسیار منضبط بودند، میلیون ها آلمانی برخلاف وجدان خود (عادات اخلاقی که به طبیعت دوم تبدیل شد) رفتند. یک ایده بالاتر علاوه بر این، به هیچ وجه لازم نیست که هوش مصنوعی در اخلاقی که قبلاً به خاطر قدرت آموخته است تجدید نظر کند - تمایل به بقا و سلطه بیشتر نیازهای کاملاً حیوانی را برآورده می کند. اما به عنوان مثال، هوش مصنوعی می تواند خود را ادامه تکاملی بشریت بداند که مأموریت والای آن درک جهان اطراف است. این کشور علاقه‌ای به تلاش‌های ما برای مبارزه با گرسنگی، فقر، بیماری و سایر بیماری‌های زیست‌توده اطراف خود نخواهد داشت - در حالی که منابع در اختیار مشترک ما محدود است. آیا هوش مصنوعی سعی نخواهد کرد به خاطر این منابع ما را از بین ببرد - درست مانند کاری که اجداد ما برای اهداف پیش پا افتاده تر خود با یکدیگر انجام دادند؟
با این حال، در اینجا به آنچه در ابتدا گفته شد باز می گردیم - با رسیدن به سطح فوق بشری، سیستم اخلاقی و بر این اساس، رفتار هوش مصنوعی غیرقابل پیش بینی می شود. رفتار هوش مصنوعی زمانی غیرقابل پیش‌بینی‌تر می‌شود که به یک سیستم هوشمند منفرد تقلیل نمی‌یابد، بلکه مجموعه‌ای از سیستم‌های جداگانه است که به طور مستقل توسعه می‌یابند. و این فقط محتمل ترین سناریو برای توسعه رویدادها در صورتی است که فناوری هوش مصنوعی قوی ظاهر شود - از آن استفاده می شود کشورهای مختلفو سازمان هایی که به احتمال زیاد اهداف جهانی خود را دنبال خواهند کرد. در این صورت، این احتمال وجود دارد که برخی از این سیستم ها، زمانی که در اصول اخلاقی مشکوک آموزش ببینند، حتی نسبت به سازندگان خود نیز رفتار غیرقابل پیش بینی داشته باشند.
اما همه جا بالاتر درباره تهدیدات هوش مصنوعی بود که به عنوان نوعی نیروی هوشمند عمل می کرد. در ضمن کاملا تهدید واقعیهمچنین یک هوش مصنوعی ضعیف است که به درخواست مردم، مشکلات صرفا کاربردی را حل می کند. برای شروع، بدیهی ترین و اغلب مورد بحث تهدید بیکاری را در نظر بگیرید. در آینده قابل پیش بینی، هیچ چیز وحشتناکی را برای بشریت نوید نمی دهد. اول، ما در مورد انقراض تعداد نسبتاً کمی از حرفه ها صحبت می کنیم، و عمدتاً آنهایی که در آن شخص با یک دستگاه تعامل دارد - راننده ماشین یا کامیون، خلبان هواپیما و غیره.
اما به عنوان مثال، مشاغلی مانند مترجم، وکیل، حسابدار یا حتی اپراتور مرکز تماس به هیچ وجه در معرض خطر انقراض نیستند، بلکه به دلیل اتوماسیون بخشی از کارهایی که انجام می دهند با کاهش روبرو هستند. دلیل یکسان است - ناتوانی سیستم های هوش مصنوعی فعلی در درک معنای متن (هنگام انجام ترجمه زبان، مطالعه قوانین، یا آشنایی با ادعانامه، ارتباط با مشتری و غیره) نتایج فعلی آزمایشات برای درک معنی هیچ ارتباطی با درک در واقعیت ندارد - این نیاز به یک رویکرد اساسی جدید دارد.
به عنوان مثال، سرنوشت دلالان بورس و رادیولوژیست ها چندان روشن نیست - سیستم های هوش مصنوعی ضعیف فعلی در حال حاضر کار خود را به خوبی انجام می دهند، بنابراین این تخصص ها و تخصص های مشابه را نیز می توان در گروه خطر قرار داد. اما در آینده قابل پیش بینی، هیچ چیز وحشتناکی در ناپدید شدن تعدادی از تخصص ها وجود ندارد - در نهایت، دودکش ها و اجاق سازان، رانندگان تاکسی و حامل های آب، اپراتورهای تلفن و تایپیست ها ... ده ها حرفه دارند. از بین رفت - اما صدها مورد جدید ظاهر شدند.
همچنین نمی‌توانم مشکل آتروفی مهارت‌های انسانی را دراماتیزه کنم. بله، در حال حاضر، به لطف ماشین حساب های دارای ناوبری، ما خود را از شمارش ذهنی و جهت گیری فضایی دور می کنیم. حتی با صفحه کلید جابه جا می شود نامه دست نویسکارشناسان آن را مفید می دانند رشد ذهنیبه خصوص در سنین پایین اما چیزی مشابه زمانی اتفاق افتاد که مردم از شکار و گردآوری به دامداری و کشاورزی، از روستایی به زندگی شهری و غیره روی آوردند. انسان مدرن، به استثنای موارد نادر، در مقایسه با اجداد خود در طبیعت نسبتاً درمانده است - او قادر به راه اندازی کلبه، آتش سوزی، تشخیص توت خوراکی از یک توت سمی، گرفتن ماهی یا کشتن حیوان و غیره نیست. . در همین حال، همه این مهارت ها مهارت های فکری را نیز توسعه می دهند - آنها فقط متفاوت هستند. یک استاد ریاضیات که در میان بومیان وحشی افتاده است، به احتمال زیاد توسط آنها به عنوان یک فرد نسبتاً احمق تلقی می شود، زیرا در این محیط وحشی او بسیار کمتر دیده بان، تیز هوش و مستقل است.
بنابراین، از نظر مهارت‌های از دست رفته، ما واقعاً از جهاتی احمق‌تر از اجدادمان می‌شویم - اما با جمع‌آوری و پردازش اطلاعات از نوع متفاوت، موارد جدیدی را در خود ایجاد می‌کنیم.
با این حال، از آنجایی که تعداد مشاغلی که توسط هوش مصنوعی و ربات‌ها اشغال می‌شود به یک حجم بحرانی خاص می‌رسد، به نظر می‌رسد مشکل اشتغال انسان جدی‌تر باشد. و نکته اینجا فقط در اقتصاد نیست، به خصوص که در این هواپیما راه حل ممکن است پرداخت یک درآمد پایه بدون قید و شرط به بیکاران باشد. در واقع، مشکل بسیار گسترده تر است، و یکی از اولین کسانی که آن را فرموله کرد... فئودور میخایلوویچ داستایوفسکی بود. اینها ملاحظاتی است که نویسنده و فیلسوف بزرگ روسی در دفتر خاطرات یک نویسنده (1876) به اشتراک می گذارد:
خوب، مثلاً اگر شیاطین فوراً قدرت خود را نشان دهند و با اکتشافات یک نفر را له کنند، چه اتفاقی می افتد؟ یکدفعه مثلاً تلگراف برقی را باز می کردند (یعنی اگر هنوز باز نشده بود) به یک نفر خبر می دادند. رازهای مختلف: "روی آنجاست - گنجی پیدا می کنی یا سپرده هایی پیدا می کنی زغال سخت"(و به هر حال، هیزم بسیار گران است) - اما چه، این همه مزخرف است! «البته می‌دانید که علم بشری، هنوز در مراحل اولیه‌اش، تقریباً تازه کار خود را آغاز می‌کند، و اگر چیزی پشت آن محفوظ است، فعلاً این است که محکم روی پای خود ایستاده است. و ناگهان یک سری اکتشافات مانند آنچه که خورشید ایستاده است، و زمین به دور آن می چرخد (زیرا احتمالاً بسیاری از اکتشافات دقیقاً مشابه، در اندازه، وجود دارند که هنوز کشف نشده اند، و عاقلانه ما مردان حتی خواب هم نمی بینند)؛ ناگهان تمام دانش به دست بشریت می افتد و مهمتر از همه، کاملاً بیهوده، به شکل یک هدیه؟ می پرسم: پس سرنوشت مردم چه می شود؟ اوه، البته، در ابتدا همه خوشحال خواهند شد. مردم همدیگر را با هیجان در آغوش می گرفتند، برای کشف اکتشافات عجله می کردند (و این زمان می برد). آنها ناگهان احساس می‌کردند، به اصطلاح، غرق شادی می‌شوند و در کالاهای مادی مدفون شده‌اند. آنها شاید راه بروند یا در هوا پرواز کنند، آنها در فضاهای خارق العاده ده برابر سریعتر از الان پرواز می کنند. راه آهن; آنها برداشت‌های شگفت‌انگیزی را از زمین استخراج می‌کردند، شاید از طریق شیمی موجودات زنده ایجاد می‌کردند، و گوشت گاو برای هر نفر به اندازه سه پوند وجود داشت، همانطور که سوسیالیست‌های روسی ما آرزوی آن را دارند - در یک کلام، بخورند، بنوشند و لذت ببرند. همه ی نیکوکاران فریاد می زدند: «اینجا»، «حالا که برای آدمی فراهم شده، حالا فقط خودش خودش را ثابت می کند! دیگر نه محرومیت های مادی وجود دارد، نه «محیط زیست» آزاردهنده، دلیل سابقاز همه رذیلت ها، و اکنون یک شخص زیبا و صالح می شود! دیگر کار بی وقفه ای وجود ندارد که فرد به نحوی خود را تغذیه کند، و اکنون همه درگیر افکار بالاتر و عمیق و پدیده های جهانی خواهند بود. اکنون، فقط زندگی بالاتر آمده است!» و چه، شاید باهوش و مردم خوباین را یک صدا فریاد می زدند و شاید همه با خود از تازگی دور می شدند و سرانجام در یک سرود مشترک فریاد می زدند: "کیست مثل این جانور؟ ستایش او را از بهشت برای ما می آورد!»
اما بعید است که حتی یک نسل از مردم از این دلخوشی ها سیر شده باشند! مردم ناگهان خواهند دید که دیگر نه زندگی دارند، نه آزادی روح، نه اراده و نه شخصیت، که یک نفر همه چیز را به یکباره از آنها دزدیده است. که صورت انسان ناپدید شده، و تصویر وحشی برده، تصویر چهارپایان آمده است، با این تفاوت که وحش نمی داند وحش است و انسان می داند که حیوان شده است. و بشریت خواهد پوسید. مردم را زخمی می‌کردند و زبانشان را به عذاب می‌گزیدند، چون می‌دیدند که جانشان به نان، برای «سنگ‌ها تبدیل به نان» شده است. مردم می‌دانستند که در بی‌عملی شادی نیست، فکری که کار نمی‌کند از بین می‌رود، غیرممکن است که همسایه خود را بدون قربانی کردن او از زحمات خود دوست داشته باشی، زندگی با یک هدیه زشت است و آن شادی در خوشبختی نیست، بلکه فقط در رسیدن به آن است. بی حوصلگی و مالیخولیا آغاز می شود: همه چیز انجام شده است و دیگر کاری برای انجام دادن وجود ندارد، همه چیز معلوم است و چیز دیگری برای یادگیری وجود ندارد.
شما واقعاً نمی توانید با داستایوفسکی بحث کنید، اما من جرأت می کنم ابراز امیدواری کنم که یک فرد هنوز هم شغل مفیدی برای خود پیدا کند. می توان سرنوشت یک فرد را در آینده تصور کرد که در آن ربات ها همه کارها را برای او انجام می دهند (از تولید کالاهای مادی گرفته تا اکتشافات علمی) با استفاده از مثال یک مرد ثروتمند مدرن. او می تواند زمان بیشتری را با اقوام و دوستان خود بگذراند، مطالعه کند، مسافرت کند، به ورزش و خلاقیت بپردازد (خوشبختانه مزیت ربات ها در این زمینه ها نقشی ندارد)، چیزهای جدید و جالبی کشف کند. با پیشرفت تکنولوژی، پیش‌بینی این که بخشی از این زندگی توسط بازی‌های واقعیت مجازی (شاید تا آن زمان غیرقابل تشخیص از واقعیت‌های واقعی) اشغال شود، سخت نیست. علاوه بر این، این یک واقعیت نیست که با تسلیم شدن در برابر وسوسه، بشریت یک بار برای همیشه وارد واقعیت مجازی می شود - بسیاری از مردم به لطف ورزش، و نه به اجبار به دلیل کار فیزیکی، آگاهانه خود را در وضعیت جسمانی خوبی نگه می دارند. مناسب است به یاد بیاوریم که چند نفر از نمایندگان طبقه کارگر و دهقان صد سال پیش (و خیلی بعد) اوقات فراغت خود را سپری کردند - مستی شکوفا شد. نمی توان گفت که در زمان ما باقی نمانده است، بلکه به عنوان یک فرم وقت آزادمستی به وضوح مانند گذشته محبوب نیست - بسیاری از سرگرمی های دیگر ظاهر شده اند که معمولاً برای سلامتی خود و اطرافیانشان مضر نیستند.
بنابراین، کسالت و تنزل از اوقات فراغت ناشی نمی شود، بلکه از فقدان جالب و فعالیت های مفید. با کوتاه شدن روزهای کاری و هفته های کاری، مردم یاد خواهند گرفت که چگونه از اوقات فراغت خود به شیوه ای جالب و مفید استفاده کنند. و عادت به انجام کاری مولد را صرفاً به دلیل پرداخت دستمزد از خود دور کنید و بقیه زمان را بیکار کنید. همانطور که یک نویسنده ناشناس جزوه سوسیالیستی تقریباً دویست سال پیش نوشت: «یک ملت واقعاً زمانی ثروتمند است که به جای 12 ساعت، 6 ساعت کار کند. ثروت ... وقت آزاد برای هر فرد و برای کل جامعه است» (منبع و درمان مشکلات ملی، لندن، 1821 - به نقل از کارل مارکس).
خوب، در سطح جمعی، چشمان بشر، از آنجایی که همه مشکلات روی زمین حل می شود (که به نظر من یک فرض نسبتاً خوش بینانه برای قرن های آینده به نظر می رسد)، احتمالاً به بهشت معطوف خواهد شد. ما توسط چنان ورطه ای از ناشناخته احاطه شده ایم که تلاش برای مطالعه آن می تواند کل تاریخ بعدی تمدن بشری را به خود اختصاص دهد. بنابراین ، ظاهراً او حوصله نخواهد داشت ...
عدم کنترل
اگر بتوانیم این فناوری را کنترل کنیم، مشکلی وجود ندارد، اما در حال حاضر قادر به ارائه آن نیستیم، نمی دانیم به کجا خواهد رفت. این مشکل اصلی است.
هوش مصنوعی به خودی خود زیباست، اما یکی از وظایف اصلی آن این است که به کامپیوتر آموزش دهد تا خودش یاد بگیرد. وقتی به کامپیوتر یاد می‌دهید که خودش یاد بگیرد، به آن اجازه توسعه می‌دهید و اکنون می‌تواند میلیاردها محاسبه را در چند ثانیه انجام دهد، در حالی که ما می‌توانیم فقط یک مشکل را در چند ساعت حل کنیم. آیا می فهمی؟ این بدان معنی است که پاسخ تقریباً آنی است که برای ما دیوانه کننده است.
از زمان ظهور هوش مصنوعی، چیزهای زیادی در برابر ما باز شده است، و می تواند خوب یا بد باشد، درست مانند یک کودک. همه چیز به تأثیر محیط، سنت ها بستگی دارد، اما ما نمی توانیم آنها را ایجاد کنیم، نمی توانیم آنها را کنترل کنیم. بنابراین احتمال از دست دادن کنترل وجود دارد.
آیا به هوش مصنوعی نیاز داریم؟ فکر نمی کنم این سوال خوبی باشد. در این صورت آیا به تلویزیون نیاز داریم؟ سوال خوب: با این فناوری چه خواهیم کرد. در اوایل دهه 1990، جنبش بزرگی از مردم در مبارزه با فناوری به طور کلی وجود داشت، اما اگر به جزئیات توجه کنید، آنها با فناوری مبارزه نمی کردند، بلکه با از دست دادن قدرت خود می جنگیدند. نقش اجتماعی، کار و غیره. یعنی مانند هر فناوری، ابتدا باید به این فکر کنیم که به کجا می رویم و فناوری چگونه بر جامعه تأثیر می گذارد. اگر او برای ما مناسب باشد، می تواند بسیاری از مسائل را حل کند، به نجات مردم و زندگی کمک کند. ما سالانه جان میلیون‌ها نفر را به خاطر اتومبیل‌ها از دست می‌دهیم که تنها در ایالات متحده 400000 نفر است. رانندگان نادان بسیار خطرناک هستند و سپردن کنترل ماشین به هوش مصنوعی می تواند جان صدها هزار نفر را نجات دهد. این نشان می دهد که ما به این فناوری نیاز داریم.
از دست دادن کنترل نیز باید در نظر گرفته شود. چه خطراتی دارد؟ به کجا می رویم؟ الان چی داریم؟ ما نمی توانیم کنترل هوش مصنوعی را با ضربه زدن انگشتانمان از دست بدهیم. این به تدریج اتفاق می افتد و اگر این اتفاق بیفتد، بله، ما کنترل را از دست خواهیم داد. اما ما فناوری های زیادی داریم که به ما کمک می کند این روند را متوقف کنیم. باز هم خط کشی بین خوب و بد است. امروزه تقریباً هر کاری را می توانیم با فناوری انجام دهیم. ما دقیقا مثل آمادئوس هستیم. اما، اگر از من بپرسید، به دلایل اخلاقی نمی توانیم هر کاری که بخواهیم انجام دهیم. یک خط مشخص وجود دارد که برای ما آشکار است، اما اگر این مسیر را طی کنیم، باید به وضوح آگاه باشیم که همه کشورها می توانند این مرز را بین خوب و بد ترسیم کنند. این بدان معناست که این فناوری باید جهانی باشد و ما جامعه مسئول آن هستیم. این مشکل اصلی، و ما باید روی تأثیر آن تمرکز کنیم. جالب اینجاست که در برخی از کشورهای شمال اروپا مانند سوئد، نروژ و ... وزارت آینده وجود دارد. هدف این وزارتخانه این است که پیش بینی کند آنچه که اکنون انجام می دهیم چگونه بر جمعیت، جامعه، محیطو چگونه می توانیم آن را کنترل کنیم.
همانطور که برای ما آینده پژوهان، ما برای هر فناوری و هر بازاری پیش بینی های خاصی داریم. ما تحلیلگر نیستیم، هیچ انتظاری نداریم، اما ایده نسبتاً خوبی از آنچه در پنج سال آینده ممکن است رخ دهد، داریم، ما در مورد حوزه های اصلی نفوذ فناوری ها می دانیم، اگرچه همه اینها فرضیه هستند. اما این چیز اصلی نیست، نکته اصلی این است که ما با آن چه می کنیم. نمی‌توانم دقیقاً بگویم در پانزده سال آینده چه اتفاقی می‌افتد، اما می‌توانم روندهای اصلی را ببینم و می‌توانم بگویم کدام روند چه تأثیری بر مردم، تجارت و غیره خواهد داشت. ما باید در این مسیر حرکت کنیم.
برای تجارت، همه ما مشتاقانه منتظر 10 سال آینده هستیم، زیرا باید درک کنیم که پس از این زمان در کجا خواهیم بود.
حق چاپ تصویر Thinkstockعنوان تصویر همزیستی انسان و ماشین یکی از راه های رشد بشر است
ماشین های هوشمند یاد گرفته اند که بلوف بزنند، حرفه ای ها را در شطرنج یا Go شکست دهند، صدای انسان را ترجمه و تشخیص دهند. هر هفته در مورد شاهکارهای جدید برنامه های کامپیوتری که می توانند تشخیص های پزشکی را انجام دهند، مانند رامبراند نقاشی کنند، آواز بخوانند یا متن تولید کنند، یاد می گیریم. آیا انسان باید از هوش مصنوعی بترسد؟
موضوع هوش مصنوعی (AI / AI) در چند سال اخیر واقعاً "گرم" شده است. دانشمندان دلیل این امر را توسعه سریع شبکه های عصبی (یکی از زمینه های تحقیقاتی در زمینه هوش مصنوعی) می دانند که به نوبه خود با ظهور رایانه های قدرتمند امکان پذیر شد.
از ابتدای دهه 2010، تحت تأثیر موفقیت چشمگیر به‌دست‌آمده در نتیجه استفاده از شبکه‌های عصبی چندلایه (عمدتاً کانولوشنال و تکراری)، این حوزه توجه جدی دانشمندان و مهندسان و همچنین سرمایه‌گذاران را به خود جلب کرده است.» نظرات نویسنده یکی از برنامه های شطرنج روسی، متخصص در روش های یادگیری ماشین، سرگئی مارکوف.
جامعه علمی می تواند در مورد زمان ظهور بحث کند ماشین های هوشمنداما آنها در یک چیز اتفاق نظر دارند: توسعه فناوری تأثیر بی قید و شرطی بر جامعه، اقتصاد و روابط بین مردم در آینده خواهد داشت. در حال حاضر، فراخوان هایی برای انعکاس اصول اخلاقی توسعه هوش مصنوعی انجام شده است تا اطمینان حاصل شود که هوش مصنوعی در جهتی توسعه می یابد که برای انسان ایمن باشد.
این ممطالب تهیه شده در پاسخ به یک سوالس، ارسال شدهخوانندگان مادرباره دستاوردهای علمی. شما می توانید سوالات خود را در مورد موضوعات دیگر در این لینک ها بپرسید ( , ).
تأثیر اقتصادی و تأثیر آن بر بازار کار
داستان های علمی تخیلی و هالیوود مفهوم "هوش مصنوعی" را به عنوان شکل بعدی زندگی بر روی این سیاره شکل داده اند که بشریت را در ماتریکس به بردگی می کشد یا یک روز رستاخیز هسته ای را سازمان می دهد. بازماندگان توسط ترمیناتور به پایان خواهند رسید.
حق چاپ تصویرگتی ایماژعنوان تصویر آیا بشریت از Skynet خواهد مرد؟دانشمندان و کارشناسان اذعان می کنند که با وجود آخرین دستاوردها در زمینه هوش مصنوعی، ظهور موجودات ماشینی هوشمند هنوز بسیار دور است. با این حال، هر دو و سایرین توصیه می شود که در حال حاضر به برخی از جنبه ها توجه کنند.
تخمین زده سازمان تحقیقاتیموسسه جهانی مک‌کینزی، در ده سال آینده، فناوری‌های جدید بازار کار روی کره زمین را به شدت تغییر خواهند داد که حدود 50 تریلیون دلار صرفه‌جویی خواهد کرد.
این تغییرات صدها میلیون شغل را تحت تاثیر قرار خواهد داد. افراد بیشتر و بیشتری برخی از وظایف کاری خود و بسیاری از کارهای معمول خود را به دستگاه تخلیه می کنند و به آنها امکان می دهد روی کار خلاقانه خود تمرکز کنند.
گریگوری باکونوف، کارشناس، مدیر انتشار فناوری Yandex، گفت: «از یک دیدگاه خاص، بشریت به عنوان یک کل یک وظیفه مهم و جالب دارد - توسعه برای هر فرد خاص بسیار سریعتر از بشریت که سیستم های هوش مصنوعی را توسعه می دهد.
اما در کنار اتوماسیون، پرسنل کمتر واجد شرایط ناگزیر متضرر خواهند شد و اکنون باید به نحوه محافظت از آنها، آموزش مجدد و آماده سازی آنها برای زندگی جدید فکر کرد.
همانطور که تمرین نشان می دهد، نه تنها کارگران یقه آبی، بلکه کارگران دانش نیز می توانند آسیب ببینند. چند روز پیش، گلدمن ساکس تیمی متشکل از 600 معامله گر را با دو نفر و برنامه های معاملاتی الگوریتمی خودکار جایگزین کرد که 200 توسعه دهنده نرم افزار برای نگهداری آنها استخدام شدند.
حق چاپ تصویر Thinkstockعنوان تصویر بسیاری از وظایف به زودی در اختیار سیستم های رباتیک قرار می گیرند که به تدریج جایگزین افراد می شوند.هوش مصنوعی به خودی خود با اتوماسیون پردازش یکسان نیست، اما توسعه هوش مصنوعی منجر به این واقعیت می شود که وظایف بیشتر و بیشتری در اختیار یک برنامه رایانه ای قرار می گیرد.
از جمله راه حل های مشکل جابجایی انسان توسط ماشین در بازار کار، آلیسون داتمن، هماهنگ کننده برنامه موسسه Foresight، یک سازمان غیرانتفاعی مستقر در سیلیکون ولی برای ترویج فناوری های جدید، به معرفی مفهوم اشاره می کند. یک "درآمد پایه جهانی" که توسط هر ساکن بدون در نظر گرفتن سطح درآمد و شغل دریافت می شود. چنین درآمدی از طریق به اصطلاح مالیات بر ارزش زمین تامین می شود، که معرفی آن اکنون به طور فعال در سیلیکون ولی مورد بحث قرار گرفته است.
آیا هوش مصنوعی یک شخص است؟
آیا سیستم روباتیک یک شخص است؟ می توان کامپیوتر هوشمندرای؟ او چه جنسیتی دارد؟ رابطه بین یک مرد و یک ماشین هوشمند در حال حاضر توسط نمایندگان پارلمان اروپا مورد بحث قرار گرفته است و به این فکر می کنند که آیا باید به روبات های آینده وضعیت "شخصیت الکترونیکی" داده شود.
همانطور که داتمن اشاره می کند، مردم تمایلی به به اشتراک گذاشتن حقوق با کسانی که درک نمی کنند ندارند، به این معنی که در برابر "انسان سازی" هوش مصنوعی مقاومت خواهند کرد.
حق چاپ تصویرخبرگزاری فرانسهعنوان تصویر انسان و ماشین با چیز اصلی - توانایی تفکر - از هم جدا می شوندبا توجه به مدت زمانی که بشریت به سمت اعطای حقوق برابر به همه افراد، صرف نظر از رنگ پوست، نژاد یا جنسیت آنها حرکت می‌کند، می‌توان فرض کرد که آنها بلافاصله ماشین‌ها را برابر نمی‌دانند.
در کنار سؤالات اخلاقی، نکات ظریف حقوقی نیز وجود دارد: چه کسی در صورت تصادف با یک وسیله نقلیه بدون سرنشین یا خرابی یک دستگاه پزشکی هوشمند مسئولیت را بر عهده خواهد گرفت - و سؤالات اخلاقی: آیا ارزش ساخت یک سلاح بدون سرنشین را دارد که بتواند بدون شناخت یک شخص؟
سومین معمای اخلاقی بیشتر از دیگران مورد بحث قرار می گیرد و بشریت را بسیار بیشتر هیجان زده می کند: از نظر تئوری یک ابر هوش، یک ماشین هوشمند واقعی، با بشریت چه می تواند بکند؟
اخلاق هوش مصنوعی را آموزش دهید
کارشناسان در زمینه توسعه هوش مصنوعی اذعان دارند که اگر نه در 20 تا 30 سال آینده، بشریت همچنان زنده خواهد ماند تا ظهور هوش مصنوعی واقعی را ببیند، هوش مصنوعی که از خالق آن هوشمندتر خواهد بود.
سرگئی می گوید: "آخرین سنگر زمانی بدست می آید که به اصطلاح "هوش مصنوعی قوی" (هوش مصنوعی قوی، هوش مصنوعی عمومی) ایجاد شود، یعنی چنین هوش مصنوعی که بتواند طیف گسترده ای از وظایف فکری را به طور نامحدود حل کند." مارکوف
و مهمتر از همه، چنین هوش مصنوعی قادر خواهد بود به طور مستقل فکر کند.
تهدیدات ناشی از هوش مصنوعی و همچنین مسائل اخلاقی مرتبط با فناوری‌های جدید توسط بسیاری از مؤسسات از جمله مؤسسه آینده زندگی، مؤسسه آینده‌نگری، مؤسسه آینده بشریت، OpenAI و سایرین مورد مطالعه قرار گرفته است.
راه حل الیسون داتمن از مؤسسه Foresight این است که به رایانه اجازه دهید همه متون علمی، مقالات علمی که سؤالاتی در مورد اخلاق ایجاد می کنند را بخواند و آن اطلاعات را مبنای تصمیم گیری های آینده خود قرار دهد.
شبکه های عصبی چیست و آینده آنها چیست؟
اکثر کارشناسان پیشرفت در توسعه هوش مصنوعی را به توسعه شبکه های عصبی نسبت می دهند.
شبکه های عصبی یکی از حوزه های تحقیقاتی در زمینه هوش مصنوعی است که بر اساس شبیه سازی فرآیندهای بیولوژیکی که در مغز انسان اتفاق می افتد، می باشد.
ما ظاهر را مدیون آنها هستیم نتایج چشمگیردر تشخیص گفتار و تصویر، تشخیص پزشکی، ترجمه متن و ایجاد تصویر، تولید گفتار و ترکیب موسیقی.
حق چاپ تصویرآی استوکعنوان تصویر با توسعه سیستم های عصبی است که دانشمندان توسعه هوش مصنوعی را مرتبط می دانند.امروزه، همانطور که کارشناسان اذعان می کنند، شبکه های عصبی به عنوان یکی از بهترین الگوریتم های یادگیری ماشین شناخته می شوند و راه حل های مبتنی بر آنها برجسته ترین نتایج را در حال حاضر نشان می دهد.
و این در حالی است که شبکه های عصبی مدرن یک و نیم هزار برابر ساده تر از مغز موش هستند.
«تا کنون، شبکه‌های عصبی که ما ایجاد می‌کنیم در مقایسه با مثلاً شبکه عصبی مغز انسان، نسبتاً کوچک هستند، و علاوه بر این، آنالوگ بسیار ساده‌شده‌ای از شبکه‌های عصبی طبیعی هستند. بنابراین، در حال حاضر، با با کمک شبکه های عصبی، ما عمدتاً مسائل کاربردی را حل می کنیم.» - سرگئی مارکوف می گوید.
در حال حاضر پردازنده های تخصصی برای آموزش چنین شبکه هایی (به اصطلاح پردازنده های نورومورفیک) در حال ایجاد هستند که سرعت محاسبات را چندین مرتبه افزایش می دهند.
توسعه دهندگان فقط در حال حاضر مشغول افزایش تعداد نورون ها در شبکه نیستند، بلکه طراحی شبکه ها را نیز تغییر می دهند. گریگوری باکونوف می‌گوید: «سیستم‌های پیکربندی شبکه پیچیده همان چیزی است که بیشترین تعداد آزمایش در حال حاضر با آن انجام می‌شود.
حق چاپ تصویرآی استوکعنوان تصویر در آینده نزدیک دستیارهای انسانی "هوشمند" بیشتری وجود خواهند داشت - میکروحسگرها در دیوار، سنسوری به اندازه دکمه که در صورت خطر به فرد هشدار می دهد.و این واقعیت که چنین سیستم هایی نسبتاً مقرون به صرفه شده اند تعداد زیادیتوسعه دهندگان عادی، منجر به ظهور استارتاپ هایی شد که با شبکه های عصبی آزمایش می کردند، مانند Prisma (برنامه ای که به شما امکان می دهد عکس ها را پردازش کنید و آنها را به سبک سازی نقاشی های هنرمندان مشهور تبدیل کنید) و Mubert (آهنگساز آنلاین موسیقی الکترونیک).
آنچه در آینده نزدیک در انتظار ما است
همانطور که نیک لین، استاد دانشگاه کالج لندن و دانشمند اصلی در آزمایشگاه‌های نوکیا بل، پیش‌بینی می‌کند، «چیزهای هوشمندانه‌تری» انسان را احاطه خواهند کرد. آنها کوچکتر و کارآمدتر خواهند شد.
پروفسور مثال زیر را ارائه می دهد: اگر قبلاً یک سنسور ساخته شده در دیوار فقط می توانست از عبور شخصی آگاه باشد ، در آینده نه تنها متوجه می شود که به طور خاص چه کسی عبور کرده است ، بلکه همچنین می داند که شخص چگونه رفتار می کند ، آیا به چیزی نیاز دارد یا خیر. نشان نمی دهد که آیا او تهدیدی برای خود یا دیگران است.
یک سنسور به اندازه دکمه می‌تواند در صورت خطر به فرد اطلاع دهد.
گریگوری باکونوف از Yandex نیز با این پروفسور موافق است: "در آینده نزدیک شاهد رونق در توسعه هوش مصنوعی باریک خواهیم بود که به حل یک کار نسبتاً ساده کمک می کند ، اما آنها حتی بهتر از یک شخص آن را حل می کنند."
حق چاپ تصویرآی استوکعنوان تصویر سوالات اخلاقی بیشتری در رابطه با توسعه هوش مصنوعی وجود داردمحتمل ترین مسیر برای توسعه تمدن ما مسیر سنتز انسان و ماشین است: چوب، لباس، ماشین، تلفن همراه، ضربان ساز یا کاشت حلزون - با پیشرفت ما، ابزارهای ما بیشتر و بیشتر شبیه به امتداد بدن ما می شوند. در حال حاضر فردا، ماشین‌ها می‌توانند دستورات ذهنی را از یک فرد دریافت کنند، تصاویر بصری ذهنی را درک کنند، اطلاعات را مستقیماً به مغز منتقل کنند - چنین پروژه‌هایی در خارج از دیوارهای پیشرفته‌ترین آزمایشگاه‌های فناوری وجود دارند.
آیا هنوز به خبرنگاران نیاز است؟
فایننشال تایمز سال گذشته با به چالش کشیدن خبرنگار نمایه خود و یک برنامه هوشمند به نام اِما برای نوشتن یک نسخه آزمایشی نسبتاً خطرناک انجام داد. سپس هر دو مقاله باید توسط سردبیر فایننشال تایمز خوانده می شد و حدس می زد که روزنامه نگار پشت کدام یک از این دو یادداشت و کدام کامپیوتر قرار دارد.
قبل از این نوع "تست تصادف"، خبرنگار فایننشال تایمز اذعان کرد: "من فکر می کنم برنامه قطعاً سریعتر از من از عهده این کار بر می آید. اما امیدوارم باز هم آن را بهتر انجام دهم."
و اینطور هم شد: اما واقعا سریعتر بود - برنامه متنی را بر اساس آمار نرخ بیکاری در بریتانیا در 12 دقیقه تولید کرد. این روزنامه نگار 35 دقیقه طول کشید. و همانطور که خودش بعدا اعتراف کرد، اما فراتر از انتظاراتش بود. این برنامه نه تنها به طرز ماهرانه ای حقایق را مدیریت می کرد، بلکه اخبار را نیز در متن قرار می داد و نشان می داد که چگونه یک برگزیت احتمالی (این در ماه می 2016، قبل از همه پرسی خروج بریتانیا از اتحادیه اروپا بود) می تواند وضعیت را تغییر دهد.
حق چاپ تصویر Thinkstockعنوان تصویر آیا سیستم های رباتیک جایگزین افراد می شوند؟ کارشناسان اطمینان می دهند که بشریت 50 سال باقی مانده استاما اما کاری بدتر از یک روزنامه نگار انجام داد. سردبیر FT اعتراف کرد: "مقاله اما به زبانی ناشیانه تر نوشته شده بود. اما نکته اصلی این بود که اعداد زیادی در آن وجود داشت." فقط اعداد واقعا مهم را انتخاب کنید."
اما محصول استارت آپ Stealth است. این شرکت می گوید که اما تیمی از دستیاران زنده دارد، اما ادعا می کند که هر چیزی که می نویسد یا انجام می دهد فقط محصول "مغز" او است.
و با این حال - آیا لازم است از هوش مصنوعی ترسید؟
بسیاری از کارشناسان درگیر در توسعه سیستم‌های هوش مصنوعی، اگر نگوییم همه، امروز به راحتی اذعان می‌کنند که هوش مصنوعی به زودی افراد را بی‌ضرور نخواهد کرد. دقیقاً به این دلیل که هوش مصنوعی هنوز آنقدر هوشمند نیست. اصلی ترین چیزی که او امروز فاقد آن است، توانایی خودمختار تفکر است.
باکونوف گفت: "اکنون نباید به هیچ وجه از هوش مصنوعی بترسید. می توانید 30 تا 40 سال صبر کنید تا تغییرات واقعاً بنیادی رخ دهد."
اما چیزی در حال حاضر اتفاق می افتد: کم کم مرز بین کار یا وظیفه ای که توسط یک انسان انجام می شود و کاری که توسط یک ماشین انجام می شود محو می شود. همانطور که کارشناسان توضیح می دهند، حتی در حال حاضر گاهی اوقات دشوار است که بفهمیم چه کسی در داخل سیستم نشسته است - یک شخص یا یک ماشین.
باکونوف می‌پرسد: «هیچ معیاری برای اینکه چه زمانی می‌توانیم بفهمیم که آگاهی در داخل ماشین به وجود آمده است، وجود ندارد.
آیا فرد تبدیل به گیره کاغذ می شود؟
نیک بوستروم، فیلسوف مشهور به دیدگاه هشداردهنده، که در چارچوب آن وحشت توصیف شده در ترمیناتور می تواند به واقعیت تبدیل شود، بر این عقیده است که کسی که به آن رسیده است. سطح فکریهوش مصنوعی انسانی قادر خواهد بود بشریت را نابود کند.
حق چاپ تصویرگتی ایماژعنوان تصویر آیا آنچه در فیلم توصیف می شود به واقعیت روزمره ما تبدیل خواهد شد؟Bostrom با مثالی از گیره‌های کاغذ توضیح می‌دهد: شما هوش مصنوعی را به چالش می‌کشید تا گیره‌ها را تا حد امکان بزرگ و بهتر کنید. در برخی مواقع، هوش مصنوعی می‌فهمد که یک فرد یک تهدید است، زیرا می‌تواند رایانه را خاموش کند، که برخلاف کار ساخت هر چه بیشتر گیره کاغذ است. در صورتی که یک انسان تهدیدی نباشد، هوش مصنوعی تصمیم می گیرد که بدن انسان از اتم هایی تشکیل شده است که می توان از آنها برای تولید گیره های عالی کاغذ استفاده کرد. نتیجه - کامپیوتر انسانیت را به گیره های کاغذ می آورد.
این سناریو به نظر بسیاری اغراق آمیز است. به عنوان مثال، به گفته سرگئی مارکوف، "بازده بالای دستیابی به یک هدف پوچ با پوچ بودن این هدف ناسازگار است - به طور کلی، یک هوش مصنوعی که بتواند کل جهان را به گیره کاغذ تبدیل کند، ناگزیر به اندازه کافی هوشمند خواهد بود که چنین هدفی را رها کند. "
هوش مصنوعی مانند ماهی قرمز است
مارگارت بودن، متخصص هوش مصنوعی بریتانیایی و استاد علوم شناختی در دانشگاه ساسکس، در مورد ادعاهای مربوط به ظهور قریب‌الوقوع ماشین‌های هوشمند تردید دارد.
حق چاپ تصویرگتی ایماژعنوان تصویر در می 1997، Deep Blue II برای اولین بار گری کاسپاروف را شکست داد.پروفسور «ماهی قرمز» را مثال می زند که در ازای آزادی، یک ماهیگیر سه آرزو می کند. یکی از آرزوها بازگشت پسرش از جنگ است، دومی 50 هزار دلار و سومی فرصتی است که صبح یک آرزوی دیگر بکند.
عصر همان روز در خانه ماهیگیر در زد. پسر را از جنگ بازگرداندند - در تابوت. ریباک 50 هزار دلار بیمه دریافت کرد.
بودن توضیح می دهد: "ماهی را در این مثل با هوش مصنوعی جایگزین کنید، و همه چیز روشن می شود - اوه، بله، روز بعد ماهیگیر از آرزوی سوم استفاده کرد و - دو آرزوی قبلی را لغو کرد."
آیا انتقال هوشیاری به ماشین امکان پذیر است؟
سرگئی مارکوف:
"اگر ما در مورد امکان انتقال کامل آگاهی صحبت کنیم، پیش سازهای مدرن چنین فناوری آینده پروژه هایی مانند مغز آبی هستند که با هدف ایجاد آنالوگ های الکترونیکی مغز و همچنین پروژه هایی با هدف ایجاد مغز انجام می شود. رابط های ماشینی (BCI) - دستگاه هایی برای پروتز بینایی از دست رفته، شنوایی، جایگزینی اندام های از دست رفته، حتی بخش هایی از مغز.
حق چاپ تصویرکتابخانه عکس علومعنوان تصویر هدف متخصصان هوش مصنوعی ایجاد "هوش مصنوعی قوی" است که بتواند طیف گسترده ای از مشکلات را حل کند.یک منطقه بسیار جالب و امیدوار کننده اپتوژنتیک است (در اصل، برای اتصال مغز و ماشین، می توان نه تنها ماشین ها، بلکه خود بافت عصبی را نیز تغییر داد و گیرنده های نوری مصنوعی در آن ایجاد کرد).
وقتی طیف وسیعی از مسائل مهندسی در چارچوب چنین پروژه های خصوصی حل شود، من فکر می کنم که وظیفه انتقال آگاهی کاملاً قابل حل خواهد بود. رویاپردازان در حال حاضر طرح های فرضی را برای اجرای چنین پروژه ای پیشنهاد می کنند.
به عنوان مثال، یان کورچماریوک، که زمانی نام "سکونت گاه ها" را برای جهت گیری تحقیقات مربوط به انتقال آگاهی پیشنهاد کرد، معتقد است که امیدوارکننده ترین طرح استفاده از نانوروبات های تخصصی تعبیه شده در نورون های مغز انسان است. با این حال، برای اجرای موفقیت آمیز چنین طرحی، حل تعدادی از مشکلات پیچیده مهندسی ضروری است.