هوش مصنوعی چه خطری می تواند برای بشریت ایجاد کند؟ هوش مصنوعی، تهدیدی بالقوه برای بقای نوع بشر آیا یک ابر ماشین حساب می تواند تهدید کند

و سایر محققان مشهور نامه ای سرگشاده نوشتند و خواستار ایجاد استانداردهای ایمنی در زمینه توسعه هوش مصنوعی (AI) شدند. /سایت اینترنتی/

به ویژه، آنها خواستار تحقیق و توسعه یک سیستم کنترل قابل اعتماد بودند که اجازه نمی دهد هوش مصنوعی نادرست به مردم آسیب برساند. در این نامه آمده است: «کار فنی باید برای اطمینان از کنترل کامل انسانی انجام شود.

علیرغم لحن معتدل نامه، لودیت ها که از فناوری جدید می ترسیدند، وحشت کردند. در پاسخ، مطبوعات بسیاری از مصاحبه ها و اظهارات دانشمندان را منتشر کردند که این ترس ها را از بین می برد.

اندرو نگ، کارشناس هوش مصنوعی در Baidu، به Fusion گفت: "من سناریوی واقع بینانه ای نمی بینم که نرم افزاری که امروز روی آن کار می کنیم، مختل شود."

به نوبه خود، اسکات الکساندر، روزنامه نگار، فهرستی از دانشمندان مشهوری که در توسعه هوش مصنوعی نقش داشتند، تهیه کرد که در مورد خطر بالقوهاز سمت هوش مصنوعی

ترس و دلهره

استوارت راسر، استاد علوم کامپیوتر در دانشگاه کالیفرنیا در برکلی، توسعه مکانیسم‌هایی برای کنترل هوش مصنوعی را با اتخاذ تدابیری برای ایمنی راکتورهای هسته‌ای مقایسه کرد.

برخی معتقدند که این موضوع در چند صد سال آینده خطری برای بشریت ندارد. آنها فراموش می کنند که لئو زیلارد زنجیر را باز کرد واکنش هسته ای 24 ساعت پس از اینکه رادرفورد با اطمینان اعلام کرد که انرژی اتمی هرگز به دست نخواهد آمد.

راسل از نظر او تنها نیست. در نظرسنجی سال 2014 توسط وینسنت مولر و نیک بوستروم از 170 کارشناس برجسته هوش مصنوعی، 18 درصد از آنها معتقد بودند که ساخت یک ماشین فوق هوشمند یک "فاجعه واقعی" برای بشریت خواهد بود. 13 درصد گفتند که هوش مصنوعی پیشرفته ارائه می کند پیامدهای منفیبرای مردم. بیش از نیمی از دانشمندان گفتند که تأثیر مثبتی خواهد داشت.

اگرچه نظر کارشناسان در مورد تأثیر هوش مصنوعی مبهم است، اما اکثر آنها موافق هستند که ایجاد هوش مصنوعی پیشرفته فقط یک موضوع زمان است. طبق پیش‌بینی‌ها، هوش مصنوعی برابر با یک انسان در اوایل سال 2050 (احتمال 50٪) یا تا سال 2075 (احتمال 90٪) ایجاد خواهد شد. و 30 سال پس از ایجاد آن، یک ابر هوش مصنوعی ظاهر می شود که در همه جنبه ها از انسان پیشی خواهد گرفت.

کامیون های دیوانه

Rise of the Machines چه شکلی می تواند داشته باشد؟ در فیلم‌های علمی تخیلی مانند «ترمیناتور»، «ربات»، «انیماتریکس»، جنگ مردم با سایبورگ‌ها نشان داده می‌شود.

با قضاوت بر اساس فیلم های علمی تخیلی، ممکن است بسیاری این تصور را داشته باشند که اجتناب از خطر بالقوه آسان است.

با این حال، هوش مصنوعی نیازی به داشتن ندارد بدنه مکانیکیبرای به دست آوردن قدرت در دنیای واقعی: او ممکن است شروع به کنترل همه دستگاه های الکترونیکی روزمره ما کند.

استیون کینگ در داستان کوتاه «کامیون ها» چنین سناریویی را ارائه کرد. در داستانی که در دهه 70 نوشته شده است، کامیون ها هوشیار می شوند و شروع به حمله به مردم می کنند. گروهی از مردم از کامیون های خشمگین پنهان می شوند. کامیون‌ها هنوز برای کار کردن به سوخت نیاز دارند و از کد مورس برای سفارش به مردم استفاده می‌کنند تا آنها را پر کنند وگرنه بولدوزر پوشش آنها را منفجر می‌کند. مردم اطاعت می کنند.

داستان با این دیدگاه راوی پایان می‌یابد که کامیون‌ها انسان‌ها را به بردگی گرفته‌اند و ارزش‌های خود را در همه جا تحمیل می‌کنند، مثلاً آنها را مجبور به ساختن بزرگراه‌ها در سراسر جهان می‌کنند. او با صدای پرواز هواپیما در آسمان از دنیای خیالی خود بیرون کشیده می شود.

داستان استیون کینگ در دوره ای که نوشته شد آینده نگرانه به نظر می رسید، اما چندان دور از واقعیت نیست. دنیای مدرن. کامیون های خودراندر حال حاضر وجود دارد، و در آینده، شرکت ها ممکن است برای صرفه جویی در هزینه، رانندگان را با یک سیستم ناوبری مستقل جایگزین کنند.

هک سونی در سال گذشته نشان می دهد که سیستم های اطلاعاتی ما به طور فزاینده ای آسیب پذیر می شوند. این یکی از پیامدهای افزایش کامپیوتری شدن زیرساخت ها است.

با این حال، هنوز دلیلی برای نگرانی وجود ندارد. هوش مصنوعی راه درازی در پیش دارد تا بتواند با مغز انسان همسان شود. مثال کامیون خودران این را به خوبی نشان می دهد. در حالی که آنها هنوز برای رانندگی مستقل در خیابان های شلوغ شهر بسیار ناقص هستند.

آیا برنامه ای را برای خواندن مقالات دوره های زمانی روی گوشی خود نصب می کنید؟

وقتی مردم فناوری‌هایی را تماشا می‌کنند که مانند یک شخص رفتار می‌کند و رایانه‌هایی که حجم عظیمی از داده‌ها را پردازش می‌کنند، افکار زیادی در مورد آینده وجود دارد. بخش خوبی از آنها بر اساس موضوع بردگی نسل بشر است.

ادبیات علمی تخیلی و سینما از 2001: ادیسه فضایی (1968) تا Avengers: Age of Ultron (2015) پیش بینی می کند که هوش مصنوعی از انتظارات سازندگان فراتر خواهد رفت و از کنترل خارج خواهد شد. گویا هدف او فقط رقابت با انسان ها نیست، بلکه بردگی و نابودی گونه ما خواهد بود.

علمی تخیلی یا آینده ترسناک؟

تضاد بین انسان و هوش مصنوعی موضوع اصلی سریال علمی تخیلی «مردم» است که فصل سوم آن امسال منتشر شد. در قسمت های جدید، افراد «مصنوعی» با دشمنی مواجه می شوند مردم عادیکه با آنها با بدگمانی، ترس و نفرت رفتار می کنند. خشونت بیداد می کند. «سینت ها» برای حقوق اولیه خود با کسانی که آنها را غیرانسانی می دانند مبارزه می کنند.

فانتزی نهایت تخیل است. اما حتی در دنیای واقعی، همه حاضر نیستند با آغوش باز از هوش مصنوعی استقبال کنند. که در سال های گذشتهمرزهای احتمالات خیالی هوش مصنوعی به طور فعال از هم دور می شوند. مردم بیشتر و بیشتر در مورد خطر آن صحبت می کنند. و این فرض که فناوری می تواند بشریت را نابود کند واقعی تر به نظر می رسد. هوش مصنوعیما را می ترساند

نظر در مورد هوش مصنوعی

ایلان ماسک یکی از برجسته‌ترین افرادی است که در بحث هوش مصنوعی احتیاط می‌کند. ژوئیه گذشته، در جلسه انجمن ملی فرمانداران، او گفت: «من تجربه زیادی در زمینه هوش مصنوعی دارم و فکر می‌کنم که بشریت واقعاً باید نگران این موضوع باشد. زنگ خطر را مدام به صدا در می‌آورم. تا زمانی که ماشین‌های روباتیک از خیابان‌ها عبور نکنند و مردم را از بین ببرند، ما نمی‌فهمیم که چگونه به این موضوع واکنش نشان دهیم، زیرا چنین چشم‌اندازی غیرواقعی تلقی می‌شود.

در سال 2014، ماسک هوش مصنوعی را "بزرگترین تهدید وجودی ما" نامید و در آگوست 2017 گفت که هوش مصنوعی نسبت به ایدئولوژی کره شمالی خطر بیشتری برای بشریت دارد.

استیون هاوکینگ بزرگترین فیزیکدان نیز در مورد استفاده بدخواهانه از هوش مصنوعی ابراز نگرانی کرده است. در سال 2014، او به بی بی سی گفت که "توسعه هوش مصنوعی تمام عیار می تواند نشانه ای از پایان برای بشریت باشد."

ضربه دیگری توسط تیمی از برنامه نویسان در آزمایشگاه رسانه MIT در کمبریج وارد شد که تصمیم گرفتند ثابت کنند که هوش مصنوعی خطرناک است. شبکه عصبی Nightmare Machine که در MIT در سال 2016 ارائه شد، عکس‌های معمولی را به مناظر وحشتناک و شیطانی تبدیل کرد. یک هوش مصنوعی به نام Shelly (همچنین در MIT توسعه یافته) 140000 داستان ترسناک ایجاد کرد که کاربران Reddit در انجمن r/nosleep پست کردند.

مانوئل سبرین، مدیر تحقیقات آزمایشگاه رسانه ای ام آی تی می گوید: «ما علاقه مندیم که چگونه هوش مصنوعی باعث ایجاد احساسات می شود، به ویژه در این شرایط، او ترس را برانگیخت.

چرا می ترسیم؟

به گفته کیلیان واینبرگر، استادیار علوم کامپیوتر در دانشگاه کرنل، تجربیات منفی با هوش مصنوعی به دو دسته تقسیم می‌شوند:

این ایده که هوش مصنوعی آگاهانه مستقل می شود و سعی می کند ما را نابود کند.
این عقیده که مهاجمان از هوش مصنوعی برای اهداف خود استفاده خواهند کرد.

هوش مصنوعی ما را می ترساند زیرا فکر می کنیم هوش مصنوعی فوق صنعتی که از یک فرد باهوش تر شده است، با او به عنوان موجودی پست رفتار می کند. درست مانند کاری که با نخستی ها انجام می دهیم. و این البته برای بشریت بسیار هیجان انگیز است.»

با این حال، واینبرگر خاطرنشان می کند که نگرانی ها در مورد برتری و تمایل هوش مصنوعی برای از بین بردن نژاد بر اساس تصورات غلط در مورد این فناوری است. وقتی هوش مصنوعی را در عمل می بینیم چشمگیر است. اما محدودیت های زیادی هم دارد. هوش مصنوعی توسط الگوریتم ها تعریف می شود. آنها رفتار آن را با عملکردهای تعیین شده تعریف می کنند و نه بیشتر.

شبکه های عصبی وظایف پیچیده ای را با انواع داده ها انجام می دهند. اما بیشتر مهارت هایی که یک فرد دارد، حتی بدون توسعه عمدی آنها، برای هوش ماشینی غیرقابل دسترسی است.

هوش مصنوعی می تواند در انجام کارهای تخصصی چندین برابر انسان ها را پشت سر بگذارد. به عنوان مثال، بازی شطرنج، شناسایی اشیاء با تصویر یا تجزیه و تحلیل داده های بزرگ در بخش حسابداری یا بانکی.

هوش مصنوعی که آگاهی مستقلی داشته باشد، چنان پیشرفتی نخواهد داشت که بشریت را به بردگی بکشد. واینبرگر اضافه می کند که هیچ دلیلی وجود ندارد که باور کنیم چنین پیشرفتی در آینده نزدیک ظاهر خواهد شد.

اما موضوع دیگری در مورد اینکه چرا هوش مصنوعی ما را می ترساند وجود دارد - استفاده از قابلیت های هوش مصنوعی توسط افرادی با نیت بد. این سناریو واقعی تر و خطرناک تر است.

آیا ترس ما منطقی است؟

در دنیای سریال تلویزیونی «انسان ها»، بشریت از هوش مصنوعی می ترسد و وارد یک رویارویی شدید با آن می شود. و با قضاوت بر اساس محبوبیت این پروژه، این طرح به درخواست فعلی جامعه پاسخ می دهد.

ترس از فناوری را نمی توان نامعقول نامید، زیرا مطمئناً یک خطر خاص وجود دارد. اما خطر هر ابزاری در افکار کسی است که آن را کنترل می کند. بدیهی است که این مسئله ای است که بشریت باید آن را حل کند تا هوش مصنوعی در خدمت خیر باشد.

او عاشق پیش بینی کردن است. این مخترع در مصاحبه با خبرنگاران گفت: معتقدم هوش مصنوعی دیر یا زود همه ما را خواهد کشت. به گفته ماسک، مشکل هوش مصنوعی غیرقابل کنترل در آینده بدتر از کره شمالی خواهد بود. این میلیاردر شانس بشریت برای زنده ماندن در رویارویی با ماشین ها را تنها 5-10٪ تخمین می زند. در عین حال، قیام ماشین‌ها مانند فیلم «ترمیناتور» ممکن است در دهه آینده رخ دهد. آیا ایلان ماسک درست است و آیا سرنوشت حیوانات خانگی با روبات ها در انتظار ما خواهد بود؟ بیایید آن را بفهمیم.

هوش مصنوعی چیست؟ تعریف و ماهیت این مفهوم

اصطلاح هوش (هوش) از کلمه لاتین intellectus گرفته شده است که به معنای عقل، عقل، ذهن، توانایی های ذهنی یک فرد است. هوش مصنوعی، هوش مصنوعی، هوش مصنوعی را می‌توان به عنوان توانایی ماشین‌ها، ربات‌ها برای به دست گرفتن عملکردهای هوش انسانی، به عنوان مثال، تصمیم‌گیری از چندین مورد ممکن بر اساس تجربه و موقعیت خارجی تعریف کرد.

تاریخچه ایجاد هوش مصنوعی

اگر فکر می کنید که مفهوم هوش مصنوعی یک محصول است عصر مدرن، خیلی در اشتباهید ایده ایجاد موجودات مکانیکی شبیه به انسان در دوران باستان سرچشمه گرفته است. بنابراین مصریان باستان مجسمه ای مکانیکی از خدای خود آمون ساختند و ایلیاد هومر روند خلق موجودات مکانیکی توسط هفائستوس را شرح می دهد. ارسطو قوانین اساسی منطق صوری را تشکیل داد. از این نظر می توان آن را «پدر» هوش مصنوعی دانست. ریموند لول، ریاضیدان و فیلسوف اسپانیایی، سعی کرد ماشینی بسازد که بتواند مسائل فکری را حل کند. اما سرانجام، یک جهت جدید از علم تنها در دهه 40 قرن گذشته، پس از ایجاد رایانه های الکترونیکی و ظهور علمی مانند سایبرنتیک، ظاهر شد. نوربرت وینر این علم را ایجاد کرد.

اولین تلاش برای تعریف مفهوم هوش مصنوعی توسط دانشمند انگلیسی آلن تورینگ انجام شد. او در مقاله‌اش «ماشین‌های محاسباتی و ذهن» «تست تورینگ» خود را پیشنهاد کرد. در این متن، هوش یک کامپیوتر بر اساس توانایی آن در برقراری گفتگوی معقول با یک فرد ارزیابی شد.

در کار دانشمندان در زمینه ایجاد هوش مصنوعی، مراحل مختلفی را می توان تشخیص داد. جهت اول تحلیلی، عملکردی است. به ماشین ها وظایف خاصی با ماهیت خلاقانه داده می شود. به عنوان مثال، کشیدن یک تصویر، ترجمه یک متن ادبی از یک زبان به زبان دیگر.

جهت دوم کار مصنوعی یا مدل است. دانشمندان در تلاش برای مدل سازی هستند فعالیت خلاقمغز به طور کلی ماهیت مطالعه بازتولید فراروش های تفکر بود. یعنی نه آنچه می آموزید، بلکه چگونه یاد می گیرید، نه آنچه را که اختراع می کنید، بلکه چگونه آن را انجام می دهید. در این راستا دو مدل توسعه یافته است. یکی از آنها مدل هزارتو بود. ماهیت آن شمردن همه است گزینه ها. بیایید یک بازی شطرنج را به عنوان مثال در نظر بگیریم. برنامه حرکت بعدی را انجام می دهد و موفقیت یا شکست خود را "پس از واقعیت" ارزیابی می کند: گرفتن مهره های دیگران، به دست آوردن یا از دست دادن یک مزیت موقعیتی و غیره.

منطق چنین برنامه ای این است که موفقیت به دست آمده در هر حرکت منجر به پیروزی در کل بازی شطرنج می شود. با این حال، هر شطرنج‌بازی به شما می‌گوید که می‌توانید یک یا چند مهره را قربانی کنید، به دنبال بدتر شدن وضعیت خود باشید تا تله‌ای برای پادشاه حریف ترتیب دهید. در این صورت، چندین حرکت متوالی به طور رسمی بازنده خواهد بود، اما کل بازی برنده است. دو رویکرد توصیف شده، جوهره برنامه نویسی اکتشافی و پویا هستند. شطرنج بازان با استفاده از رویکردی پویا در برابر برنامه های "ابتکاری"، همیشه برنده بوده اند. وقتی ماشین‌ها رویکردی پویا را "یاد گرفتند" وضعیت تغییر کرد.

مدل های انجمنی به توسعه بیشتر هوش مصنوعی تبدیل شده اند. روانشناسی تداعی ها را به عنوان پیوند بازنمایی ها توضیح می دهد: یک بازنمایی باعث دیگری می شود. سگ های پاولوف تصویر واضحی از این اصل هستند: یک لامپ روشن باعث ترشح بزاق حیوانات می شود. تصمیم هر کدام وظیفه جدیددر مدل انجمنی، بر اساس مسائل قدیمی حل شده مشابه با جدید است. بر اساس مدل های انجمنی، برنامه های مدرن برای طبقه بندی و تشخیص الگو کار می کنند.

در آینده، روبات‌ها یاد خواهند گرفت که اطلاعاتی را که دریافت می‌کنند، جمع‌آوری، پردازش و استفاده کنند. بدیهی است که برای این کار، ماشین باید یاد بگیرد که از خود سؤال بپرسد: "چه می خواهم بدانم" ، "برای رسیدن به هدف به چه چیزی نیاز دارم" و غیره.

کاربرد مدرن هوش مصنوعی

اما تا کنون، روبات ها قادر به درک خود نیستند. با وجود این، آنها به طور گسترده در بسیاری از زمینه های زندگی بشر استفاده می شوند: پزشکی، آموزش، تجارت، علم و زندگی روزمره. هوش مصنوعی می تواند فرآیندهای خودکار در تولید را مدیریت کند، قادر به جمع آوری، ذخیره و پردازش حجم عظیمی از اطلاعات است.

در پزشکی، کامپیوتر تشخیصی IBM Watson به طور گسترده ای استفاده می شود. پایگاه داده آن حاوی میلیون ها سند پزشکی و تاریخچه موارد است. به لطف این، دستگاه قادر به تشخیص نسبتاً دقیق است. با این حال، احتمال خطا، اگرچه ناچیز است، اما همچنان وجود دارد. بنابراین، در حال حاضر، این سوپر کامپیوتر فقط یک دستیار برای پزشکان است و به طور کامل جایگزین آنها نمی شود. و ظاهراً در آینده ای قابل پیش بینی وضعیت تغییر نخواهد کرد. حداقل در زمینه های حیاتی برای جامعه بشری.

چگونه هوش مصنوعی بر بشریت تأثیر می گذارد

بر اساس موارد فوق، ممکن است این تصور را داشته باشید که هوش مصنوعی منحصراً برای انسان مفید است. با این حال، اینطور نیست. ورود ماشین آلات به تولید، در بخش بانکی در حال حاضر منجر به این واقعیت شده است که میلیون ها نفر در سراسر جهان شغل خود را از دست داده اند. برخی از دولت ها در حال حاضر بدون قید و شرط به شهروندان خود پول پرداخت می کنند حداقل پرداختبرای حفظ وجود طبیعی

ژاپن نوازندگان ربات، معلمان، کارکنان هتل و غیره هوش مصنوعی در این کشور دارد خورشید در حال طلوعاز افراد مسن تنها حمایت می کند. و از این قبیل نمونه ها زیاد است.

آیا حمله ربات ممکن است؟

آیا مانند فیلم «ترمیناتور» انسانیت با هجوم ماشین‌ها تهدید می‌شود؟ در مرحله ای از توسعه هوش مصنوعی، این ممکن است به واقعیت تبدیل شود. این ایده توسط یک مورد ایجاد شده است. از سوپر ربات سوفیا پرسیده شد که با بشریت چه خواهد کرد؟ او به این سوال صریح پاسخ داد: "من می کشتم."

مهندسان آزمایشی را انجام دادند. چندین ماشین که رفتار انسان را شبیه سازی می کردند به حال خود رها شدند. در چنین شرایط مستقلی، آنها زبان رسمی جدید اختراع کردند و شروع به برقراری ارتباط با یکدیگر کردند.

هوش مصنوعی با درک خود می تواند یک فرد را زائد بداند. شاید ما به سادگی "پاکسازی" شویم و چندین هزار نفر را در "ذخایر" بگذاریم. اما گزینه دیگری نیز امکان پذیر است: برخی از شبکه های عصبی در افراد کاشته می شوند، بنابراین ترکیبی از یک ربات و یک فرد تشکیل می شود. در این صورت فرد با روبات ها رقابت می کند و نابود نمی شود. به هر حال، این موضوع مربوط به آینده ای بسیار دور است.

توسعه هوش مصنوعی روزی به برتری آن بر توانایی های ذهنی انسان منجر خواهد شد. با این حال، آیا برای بشریت خطرناک نخواهد شد؟ بررسی وضعیت در نتیجه بیشتر امکان پذیر است تعریف دقیقمفاهیم هوش مصنوعی، با در نظر گرفتن هوش طبیعی به عنوان مبنایی برای مقایسه. آیا می توان ذهن و عقل را همزمان در یک فرد جمع کرد؟ یا مرد باهوشنمی تواند روشنفکر باشد و برعکس؟

چنین سؤالاتی در ارتباط با ظهور عصر هوش مصنوعی، در مورد خطر احتمالیکه بشریت باید از قبل بداند و برای تامین امنیت خود اقدامات به موقع انجام دهد. اول از همه، خطر هوش مصنوعی با استقلال و تصمیم گیری کنترل نشده آن همراه خواهد بود. در این لحظهدر حال حاضر بودجه ای برای بررسی این مشکل اختصاص یافته است. موسسه OpenAI چشم انداز توسعه هوش مصنوعی را مطالعه می کند. در مرحله فعلی توسعه سیستم های هوش مصنوعی، خطر استفاده از آن را می توان با عوامل زیر مرتبط کرد:

• خطاهای نرم افزاری (نرم افزاری). هر نرم افزاری می تواند توسط چنین خطری تهدید شود.
• فعالیت مستقل هوش مصنوعی، مضر برای انسان. خطر هوش مصنوعی ممکن است پس از اختراع باشد کامپیوتر هوشمند. بنابراین، باید میزان هوش کامپیوتر را مشخص کرد که می تواند قابل قبول و همچنین بیش از حد باشد و خطری برای انسان به همراه داشته باشد. این ویژگی ها به دلیل نزدیکی باید به دقت اندازه گیری شوند توانایی های ذهنیانسان و کامپیوتر که اجتناب ناپذیرند. سیستم های اطلاعاتیامروزه موجود، انسان-ماشین هایی هستند که به لطف هوش کاربر یا متخصص کامپیوتر می توانند کار کنند.

به عنوان مثال، یک سیستم حسابداری هوشمند که اطلاعات نادرست به آن داده شود، چه خطری دارد؟ خطر زمانی می تواند به وجود بیاید که چنین سیستمی دارای عناصر شخصیتی باشد، مثلاً نفع شخصی، که ربطی به انسان ندارد. راه حل این مشکل می تواند ممنوعیت ایجاد سیستم هایی باشد که در امکان تکامل متفاوت هستند.

علاوه بر این، خطر ممکن است با محتوای خطاهای منطقی در هوش مصنوعی مرتبط باشد. می توان از آن برای حل مشکلات نسبتاً پیچیده استفاده کرد که لیست آنها فوراً مشخص نیست. بنابراین باید تدابیر ویژه ای برای تایید صحت تصمیمی که دریافت می شود اندیشیده شود. به احتمال زیاد، نیاز به توسعه انواع روش ها برای کنترل چنین سیستم هایی وجود خواهد داشت، به عنوان مثال، ابزارهای نرم افزاری ویژه ای که به طور خودکار صحت راه حل را بدون نیاز به مشارکت انسانی بررسی می کنند.

توسعه هوش مصنوعی روزی به برتری آن بر توانایی های ذهنی انسان منجر خواهد شد. با این حال، آیا برای بشریت خطرناک نخواهد شد؟ می توان در نتیجه تعریف دقیق تری از مفهوم هوش مصنوعی، وضعیت را مطالعه کرد و هوش طبیعی را مبنای مقایسه قرار داد. آیا می توان ذهن و عقل را همزمان در یک فرد جمع کرد؟ یا آدم باهوش نمی تواند روشنفکر باشد و برعکس؟

چنین سوالاتی در ارتباط با نزدیک شدن به عصر هوش مصنوعی مطرح می شود، خطر احتمالی که بشریت باید از قبل بداند و اقدامات به موقع برای اطمینان از ایمنی آن انجام دهد. اول از همه، خطر هوش مصنوعی با استقلال و تصمیم گیری کنترل نشده آن همراه خواهد بود. در حال حاضر بودجه ای برای بررسی این مشکل اختصاص یافته است. موسسه OpenAI چشم انداز توسعه هوش مصنوعی را مطالعه می کند. در مرحله فعلی توسعه سیستم های هوش مصنوعی، خطر استفاده از آن را می توان با عوامل زیر مرتبط کرد:

• خطاهای نرم افزاری (نرم افزاری). هر نرم افزاری می تواند توسط چنین خطری تهدید شود.
• فعالیت مستقل هوش مصنوعی، مضر برای انسان. خطر هوش مصنوعی ممکن است پس از اختراع رایانه هوشمند باشد. بنابراین، باید میزان هوش کامپیوتر را مشخص کرد که می تواند قابل قبول و همچنین بیش از حد باشد و خطری برای انسان به همراه داشته باشد. این ویژگی ها به دلیل همگرایی اجتناب ناپذیر هوش انسان و کامپیوتر باید به دقت اندازه گیری شوند. سیستم‌های اطلاعاتی که امروزه وجود دارند، ماشین‌هایی هستند که می‌توانند به لطف هوشمندی یک کاربر یا یک متخصص رایانه کار کنند.

به عنوان مثال، یک سیستم حسابداری هوشمند که اطلاعات نادرست به آن داده شود، چه خطری دارد؟ خطر زمانی می تواند به وجود بیاید که چنین سیستمی دارای عناصر شخصیتی باشد، مثلاً نفع شخصی، که ربطی به انسان ندارد. راه حل این مشکل می تواند ممنوعیت ایجاد سیستم هایی باشد که در امکان تکامل متفاوت هستند.

علاوه بر این، خطر ممکن است با محتوای خطاهای منطقی در هوش مصنوعی مرتبط باشد. می توان از آن برای حل مشکلات نسبتاً پیچیده استفاده کرد که لیست آنها فوراً مشخص نیست. بنابراین باید تدابیر ویژه ای برای تایید صحت تصمیمی که دریافت می شود اندیشیده شود. به احتمال زیاد، نیاز به توسعه انواع روش ها برای کنترل چنین سیستم هایی وجود خواهد داشت، به عنوان مثال، ابزارهای نرم افزاری ویژه ای که به طور خودکار صحت راه حل را بدون نیاز به مشارکت انسانی بررسی می کنند.