درستSGHAROOOON سه ونیم میلیارد سال پیش، لباس های اولیه ی حیات روی زمین بوسیله بود آمدند. چهار میلیون سال پیش بود که ظرفیت عدد هومونیدها (میمون های شبه مردم) به طرز چشمگیری افزایش یافت. پنجاه هزار سال پیش، آدم فهمیده نمود کرد. ۱۰ هزار سال پیش، تمدن به حیات آمد. ۵۰۰ سال پیش، طبع اختراع شد. ۵۰ سال پیش کامپیوتر اختراع شد و «این» در ناچیز از ۳۰ سال به فرجام می رسد.
جان تالین تو سال ۲۰۰۷ در مقاله ای آنلاین به صیت «خیره به تکینگی» بوسیله جملات بلندی اصابت (براساس انگاره ی تکینگی فناوری، روزی رشد فناوری به حدی می رسد که از کنترل آدم خارج می شود و تغییرات غیرقابل بازگشتی را در تمدن بشر خلق کردن می کند). در جمله ی پایان پاراگراف بالا منظور از «این»، تمدن انسانی است. به عقیده ی مؤلف این مقاله، بشر با نمود ابَرهوش یاهوش بدلی فراتر از هوش انسان در بسیاری از حوزه ها، بوسیله ته خود نزدیک می شود.
تالین، پروگرام نویس کامپیوتر متولد استونی است که داخل اساس ی فیزیک بی آرامی سابقه دارد. او عمر را به یک مسئله ی برنامه نویسی بزرگ تشبیه می درنگ. تالین در سال ۲۰۰۳ به عنوان یکی از زمینه گذاران اسکایپ به توسعه ی بک اند این اپلیکیشن صیقلی. او بخاطر چسبیدگی به هدفی جدید، دو سال بعد سهم خویشتن را به eBay فروخت. مقاله ی «خیره به تکینگی» ترکیبی از کد کامپیوتر، فیزیک و نقل تعهد های کالوین و هاب حیات.
تالین هنگفت زود مؤلف این مقاله را واضح کرد. الیزر یودکفسکی، نظریه پردازی خودآموخته وجود. او مؤلف بسیار از ۱۰۰۰ مقاله و پست بلاگ حیات که موضوع اغلب آن ها حزن ابَرهوش حیات. تالین برنامه ای برای بریدن نوشته های یودکفسکی از اینترنت، مرتب سازی آن ها به ترتیب زمان و فرمت دهی آن ها برای وسیله آیفون خود نوشت. پس ازآن زمانی را به خواندن آن ها ویژه رحم.
تعبیر «هوش مصنوعی» یا شبیه سازی هوش در کامپیوترها یا ماشین ها به سال ۱۹۵۶، یعنی یک دهه پس از اختراع اولیه کامپیوترهای دیجیتال الکترونیکی بازمی گردد. هوش مصنوعی درون فاتحه مبنا ای امیدبخش بود، ولی تو دهه ی ۱۹۷۰ و زمانی که پیش بینی های نخستین محقق نشدند، زمستان هوش مصنوعی آغاز شد.مقاله های مرتبط:آیا فهم قلابی بر گیتی تسلط می یابد؟تاریخچه ناگفته هوش مصنوعی؛ مردم هایی که سامان های هوشمند را ساختند
وقتی تالین مقاله های یودکفسکی را پیدا کرد، درایت مصنوعی در آغاز رنسانس بود. دانشمندان مظفر به توسعه ی انواع AI متشابه شطرنج، پاکسازی کف آشپزخانه و تشخیص نطق مردم شده بودند؛ فهمیدن های جعلی که هرکدام تو زمینه ای مشخص نسبت به مردم برتری داشتند (چهار سال بعد در سال ۲۰۰۷، برد بزرگ ابرکامپیوتر واتسونIBM در هم چشمی Jeopardy! عارض عدل و هشت سال بعد AlphaGo شریک شدن DeepMind داخل بازی GO مقابل انسان به سلطه رسید). هوش های مصنوعی محدود (narrow) عزب تو زمینه های مشخصی بهتر از انسان انجام می کنند.
برای مثال هوش ساختگی شطرنج باز نمی تواند کف زمین را تمیز نرم خواه شما را از عمه ی A A به عمه ی B ببرد؛ اما به اعتقاد تالین، هوش مصنوعی فوق هوشمند محدوده ی وسیعی از مهارت ها را درون یک موجودیت اختلاط می. کند بدتر از هر چیز، می تواند از داده های تلفن هوشمند استعمال نرم و در دست طرز کار داده ها بهتر از آدم ارتکاب.
کند تالین با خواندن مقاله های یودکفسکی به این نتیجه رسید که ابرهوش می تواند منجر به تکثیر و شکافتن نوعی از ادراک بدلی شود که موجودیت بشر را ترساندن می. بطی ء همان طور که انسان ها پهلو نسل کپی (ها از نخستی) سانان مسلط شدند، هوش های مصنوعی زبر هوشمند بی قراری می توانند جایگاه آدم درون نردبان تکامل را اشغال کنند؛ خواه بدتر از هر چیز، طایفه انسان را منقرض. کنند تالین، پس از قرائت کردن آخرین مقاله ها ایمیلی با این مضمون به یودکفسکی ارسال:کرد من جان هستم، یکی از مهندسین بن گذار. اسکایپ تو این مورد با شما موافق هستم که پیشگیری از پیروزی هوش مصنوعی بر هوش انسانی یکی از بنیادی ترین وظایف مردمی.
است کمال مطلوب تالین پیشگیری از این اتفاق. بود به همین دلیل، برای چند جلسه به غرب کالیفرنیا رفت و با یودکفسکی ملاقات. کرد مناظره آن ها چهار روزگار به طول. انجامید یودکفسکی از اقتدار منحصربه فرد تالین در درک مفاهیم اصلی و جزئیات، بروز رضایت.
کرد تالین چکی به مسکوک ۵۰۰۰ دلار برای مؤسسه ی (SIAI مؤسسه ی تکینگی درک قدر یا بهای چیزی) ساختگی نوشت، مؤسسه ای غیرانتفاعی که یودکفسکی یکی از پژوهشگرهای آن. (بود نام این مؤسسه درون سال ۲۰۱۳ به Machine Intelligence Research Institute یا MIRI تغییر پیدا). کرد از آن زمان تالین بیش از ۶۰۰ هزاره دلار به این مؤسسه صیقلی کرده.
است تالین پس از دیدار با یودکفسکی مرام خود را مشخص کرد و مأموریت رهایی انسان از دست مخلوقات هوشمند خود را آغاز. کرد او پس از درون میان گذاشتن مشکل با نظریه پردازان و دانشمندان کامپیوتر، برای سخنرانی در تک تهدیدهای بالقوه ی ابَرهوش، سفر به سراسر گیتی را آغاز.
کرد او کار خویشتن را با سرمایه گذاری پژوهشی کنار یکی از راه های گریختن مردم یعنی درایت جعلی دوستانه آغاز. کرد در اینجا قصد از شعور مصنوعی دوستانه، ربات یا دستگاهی حلق که در تک آب وهوا با شما صحبت کند یا نام فرزندانتان را گزینش (درنگ گرچه فهم مصنوعی زبر هوشمند قادر بوسیله ایفا تمام این کارها). است حتی شعار فهم مصنوعی دوستانه، عشق یا نوع مودت. حلق بسیاری به سهو فرض می کنند هوش مصنوعی دوستانه از نرخ ها و اختیارت انسانی برخوردار است درحالی «که» دوستانه در اینجا معنای بنیادی لطافت: دارد ماشین های فردا برای رسیدن به اهداف خود، انسان را حذف نمی.
کنند تالین در سن ۴۶ سالگی، کارآفرین فناوری. است او پارسا است به لطف ترفیع های (علمی درصورتی که هوش مصنوعی آدم را نابود)نکند ، می تواند سال های سال حی. بماند نگرانی او در مورد ابَرهوش از نظر پیروان او نگرانی متداولی. است مؤسسه ی پیتر تیل یکی از بنیان گذاران PayPal، مبلغ.۱ ۶ میلیون دلار به MIRI تخصیص داده است و داخل سال ۲۰۱۵،ایلان ماسک، بنیان گذار تسلا، ۱۰ میلیون دلار را روی مؤسسه ی Future of Life راه اندازی زنهار فناوری مستقر تو ماساچوست کمبریج تنخواه گذاری.
کرد ادخال تالین بوسیله این دنیای منحصربه فرد به دهه ی ۸۰ و دوران پرده ی (آهنین مرزی غیرفیزیکی وجود که پس از بحران جهانی دوم در سال ۱۹۴۵ تا عاقبت مجادله سرد در سال ۱۹۹۱، اروپا را به دو سرنوشت جداگانه تقسیم می) کرد بازمی گردد؛ درست وقتی پدر یکی از همکلاسیان او با اشتغال دولتی، دستور ی بازدید او و دوستانش از کامپیوترهای بزرگ مرکزی را. داد تالین پس از نجات استونی، مشت بوسیله تأسیس شرکتی در زمینه ی بازی های ویدئویی. زد تالین امروزه همراه با شوهر و فرزندش در پایتخت (استونی که همنام با) اوست زندگی می. کند او با پژوهشگرها تو منطقه ی بالتیک دیدار می.
یواش تالین می خواهد انسان را از شر مخلوقات فهم قلابی استقلال.
دهد استراتژی پیشنهادی تالین غصه مانند بسیاری از کارهای گذشته ی او متد مند و منظم. است او سرمایه ی خود را بین ۱۱ دایره توزیع کرده. است هرکدام از این اداره ها روی وضع های متفاوتی بخاطر حمایت شعور مصنوعی فرمان می. کنند تالین داخل سال ۲۰۱۲ بوسیله همراه چند نفر دیگر مرکز پژوهشی (CSER سربزرگی)وجودی را با سرمایه ی اولیه ی نزدیک به ۲۰۰ هزار دلار تأسیس.
کرد مخاطره های وجودی یا ریسک های (X طبق شهرت گذاری)تالین ، بقای آدم را ترساندن می. کنند ۲۰ پژوهشگر CSER علاوه پهلو هوش مصنوعی، چالش هایی مثل تغییرات اقلیمی، بحران هسته ای و غل های زیستی را غم مطالعه می کنند؛ اما به عقیده ی تالین، ماخذ های دیگر تهدید فرار هوش تقلبی را مشروع جلوه می دهند و زمینه های علو مثل مروارید ی ورود اجرا می (کنند براساس این نظریه، کاربرد دارویی خاص می تواند حدس مصرف داروهای دیگر را افزودن دهد و به تدریج تغییرات بیولوژیکی در عدد ایجاد).
شود نگرانی تو مورد تهدید های پذیرفته شده ازجمله تغییرات اقلیمی می تواند توجه بسیاری از افراد را به خود احضار کرده اما تالین امیدوار است انسان از خطر پیروزی سامان های فوق هوشمند به خشکی امدن خاندان بشر هم آگاه. شوند بخاطر شهید او داخل یکی از همایش ها از جامعه ی علمی التماس می یواش امنیت فهم بدلی را قطعی.
بگیرند درون این همایش، افرادی از جوامع علمی بکلی جهان، ازجمله پژوهشگری رباتیک از هنگ کنگ و پژوهشگری قدیمی از بریتانیا شرکت کردند که داخل دهه ی ۱۹۶۰ از کمبریج فارغ التحصیل شده. است تالین تو این میتینگ بحث را به تهدید فهم مصنوعی دگرگونی می دهد و ازآنجاکه طرف صحبت او برنامه نویس ها نیستند، سعی می کنند از تشبیه و استعاره استفاده:درنگ شعور تقلبی پیشرفته می تواند انسان را به سرعت قطع درختان، نابود. کند ابَرهوش بخاطر انسان دقیقا مثل تهدید انسان بخاطر گوریل ها.
است یکی از اعضای مجمع می: «پرسد هوش تقلبی برای غلبه کنار مردم حاجت به یک بدنه. دارد بدون پوشش فیزیکی چگونه می تواند کنترل فیزیکی را به مشت» بگیرد؟ تالین بخاطر پاسخ به این سؤال از تشبیه دیگری استفاده می:کند حتی اگر من را در زیرزمین حبس کنید، عزب با داشتن یک اتصال اینترنتی می توانم زیان اضافی وارد.
کنم صرف رویت از اینکه ربات (Roomba نوعی ربات) جاروبرقی خواه یکی از نوادگان جدید آن باشد، هوش مصنوعی براساس خروجی ها تربیت می. شود دستور کار نویس ها اهداف را همراه با یک مجموعه از قوانین و دستورالعمل ها به ربات ها تخصیص می دهند؛ اما هوش مصنوعی پیشرفته بخاطر احاطه پیاده شدن گیتی لزوما نیازی به شهود مرام یا دستورالعمل نخواهد داشت؛ بلکه می تواند به شکلی کاملا تصادفی به آن. برسد کتاب ی برنامه نویسی کامپیوتر مملو از خطاهای کوچکی است که پیامدهای فاجعه باری داشته.اند هوش مصنوعی پیشرفته در آینده نیازی به رخصت ی انسان نخواهد
داشت برای مثال داخل سال ۲۰۱۰، تاجری که برای همدستی سهام مشترک
جان تالین تو سال ۲۰۰۷ در مقاله ای آنلاین به صیت «خیره به تکینگی» بوسیله جملات بلندی اصابت (براساس انگاره ی تکینگی فناوری، روزی رشد فناوری به حدی می رسد که از کنترل آدم خارج می شود و تغییرات غیرقابل بازگشتی را در تمدن بشر خلق کردن می کند). در جمله ی پایان پاراگراف بالا منظور از «این»، تمدن انسانی است. به عقیده ی مؤلف این مقاله، بشر با نمود ابَرهوش یاهوش بدلی فراتر از هوش انسان در بسیاری از حوزه ها، بوسیله ته خود نزدیک می شود.
تالین، پروگرام نویس کامپیوتر متولد استونی است که داخل اساس ی فیزیک بی آرامی سابقه دارد. او عمر را به یک مسئله ی برنامه نویسی بزرگ تشبیه می درنگ. تالین در سال ۲۰۰۳ به عنوان یکی از زمینه گذاران اسکایپ به توسعه ی بک اند این اپلیکیشن صیقلی. او بخاطر چسبیدگی به هدفی جدید، دو سال بعد سهم خویشتن را به eBay فروخت. مقاله ی «خیره به تکینگی» ترکیبی از کد کامپیوتر، فیزیک و نقل تعهد های کالوین و هاب حیات.
تالین هنگفت زود مؤلف این مقاله را واضح کرد. الیزر یودکفسکی، نظریه پردازی خودآموخته وجود. او مؤلف بسیار از ۱۰۰۰ مقاله و پست بلاگ حیات که موضوع اغلب آن ها حزن ابَرهوش حیات. تالین برنامه ای برای بریدن نوشته های یودکفسکی از اینترنت، مرتب سازی آن ها به ترتیب زمان و فرمت دهی آن ها برای وسیله آیفون خود نوشت. پس ازآن زمانی را به خواندن آن ها ویژه رحم.
تعبیر «هوش مصنوعی» یا شبیه سازی هوش در کامپیوترها یا ماشین ها به سال ۱۹۵۶، یعنی یک دهه پس از اختراع اولیه کامپیوترهای دیجیتال الکترونیکی بازمی گردد. هوش مصنوعی درون فاتحه مبنا ای امیدبخش بود، ولی تو دهه ی ۱۹۷۰ و زمانی که پیش بینی های نخستین محقق نشدند، زمستان هوش مصنوعی آغاز شد.مقاله های مرتبط:آیا فهم قلابی بر گیتی تسلط می یابد؟تاریخچه ناگفته هوش مصنوعی؛ مردم هایی که سامان های هوشمند را ساختند
وقتی تالین مقاله های یودکفسکی را پیدا کرد، درایت مصنوعی در آغاز رنسانس بود. دانشمندان مظفر به توسعه ی انواع AI متشابه شطرنج، پاکسازی کف آشپزخانه و تشخیص نطق مردم شده بودند؛ فهمیدن های جعلی که هرکدام تو زمینه ای مشخص نسبت به مردم برتری داشتند (چهار سال بعد در سال ۲۰۰۷، برد بزرگ ابرکامپیوتر واتسونIBM در هم چشمی Jeopardy! عارض عدل و هشت سال بعد AlphaGo شریک شدن DeepMind داخل بازی GO مقابل انسان به سلطه رسید). هوش های مصنوعی محدود (narrow) عزب تو زمینه های مشخصی بهتر از انسان انجام می کنند.
برای مثال هوش ساختگی شطرنج باز نمی تواند کف زمین را تمیز نرم خواه شما را از عمه ی A A به عمه ی B ببرد؛ اما به اعتقاد تالین، هوش مصنوعی فوق هوشمند محدوده ی وسیعی از مهارت ها را درون یک موجودیت اختلاط می. کند بدتر از هر چیز، می تواند از داده های تلفن هوشمند استعمال نرم و در دست طرز کار داده ها بهتر از آدم ارتکاب.
کند تالین با خواندن مقاله های یودکفسکی به این نتیجه رسید که ابرهوش می تواند منجر به تکثیر و شکافتن نوعی از ادراک بدلی شود که موجودیت بشر را ترساندن می. بطی ء همان طور که انسان ها پهلو نسل کپی (ها از نخستی) سانان مسلط شدند، هوش های مصنوعی زبر هوشمند بی قراری می توانند جایگاه آدم درون نردبان تکامل را اشغال کنند؛ خواه بدتر از هر چیز، طایفه انسان را منقرض. کنند تالین، پس از قرائت کردن آخرین مقاله ها ایمیلی با این مضمون به یودکفسکی ارسال:کرد من جان هستم، یکی از مهندسین بن گذار. اسکایپ تو این مورد با شما موافق هستم که پیشگیری از پیروزی هوش مصنوعی بر هوش انسانی یکی از بنیادی ترین وظایف مردمی.
است کمال مطلوب تالین پیشگیری از این اتفاق. بود به همین دلیل، برای چند جلسه به غرب کالیفرنیا رفت و با یودکفسکی ملاقات. کرد مناظره آن ها چهار روزگار به طول. انجامید یودکفسکی از اقتدار منحصربه فرد تالین در درک مفاهیم اصلی و جزئیات، بروز رضایت.
کرد تالین چکی به مسکوک ۵۰۰۰ دلار برای مؤسسه ی (SIAI مؤسسه ی تکینگی درک قدر یا بهای چیزی) ساختگی نوشت، مؤسسه ای غیرانتفاعی که یودکفسکی یکی از پژوهشگرهای آن. (بود نام این مؤسسه درون سال ۲۰۱۳ به Machine Intelligence Research Institute یا MIRI تغییر پیدا). کرد از آن زمان تالین بیش از ۶۰۰ هزاره دلار به این مؤسسه صیقلی کرده.
است تالین پس از دیدار با یودکفسکی مرام خود را مشخص کرد و مأموریت رهایی انسان از دست مخلوقات هوشمند خود را آغاز. کرد او پس از درون میان گذاشتن مشکل با نظریه پردازان و دانشمندان کامپیوتر، برای سخنرانی در تک تهدیدهای بالقوه ی ابَرهوش، سفر به سراسر گیتی را آغاز.
کرد او کار خویشتن را با سرمایه گذاری پژوهشی کنار یکی از راه های گریختن مردم یعنی درایت جعلی دوستانه آغاز. کرد در اینجا قصد از شعور مصنوعی دوستانه، ربات یا دستگاهی حلق که در تک آب وهوا با شما صحبت کند یا نام فرزندانتان را گزینش (درنگ گرچه فهم مصنوعی زبر هوشمند قادر بوسیله ایفا تمام این کارها). است حتی شعار فهم مصنوعی دوستانه، عشق یا نوع مودت. حلق بسیاری به سهو فرض می کنند هوش مصنوعی دوستانه از نرخ ها و اختیارت انسانی برخوردار است درحالی «که» دوستانه در اینجا معنای بنیادی لطافت: دارد ماشین های فردا برای رسیدن به اهداف خود، انسان را حذف نمی.
کنند تالین در سن ۴۶ سالگی، کارآفرین فناوری. است او پارسا است به لطف ترفیع های (علمی درصورتی که هوش مصنوعی آدم را نابود)نکند ، می تواند سال های سال حی. بماند نگرانی او در مورد ابَرهوش از نظر پیروان او نگرانی متداولی. است مؤسسه ی پیتر تیل یکی از بنیان گذاران PayPal، مبلغ.۱ ۶ میلیون دلار به MIRI تخصیص داده است و داخل سال ۲۰۱۵،ایلان ماسک، بنیان گذار تسلا، ۱۰ میلیون دلار را روی مؤسسه ی Future of Life راه اندازی زنهار فناوری مستقر تو ماساچوست کمبریج تنخواه گذاری.
کرد ادخال تالین بوسیله این دنیای منحصربه فرد به دهه ی ۸۰ و دوران پرده ی (آهنین مرزی غیرفیزیکی وجود که پس از بحران جهانی دوم در سال ۱۹۴۵ تا عاقبت مجادله سرد در سال ۱۹۹۱، اروپا را به دو سرنوشت جداگانه تقسیم می) کرد بازمی گردد؛ درست وقتی پدر یکی از همکلاسیان او با اشتغال دولتی، دستور ی بازدید او و دوستانش از کامپیوترهای بزرگ مرکزی را. داد تالین پس از نجات استونی، مشت بوسیله تأسیس شرکتی در زمینه ی بازی های ویدئویی. زد تالین امروزه همراه با شوهر و فرزندش در پایتخت (استونی که همنام با) اوست زندگی می. کند او با پژوهشگرها تو منطقه ی بالتیک دیدار می.
یواش تالین می خواهد انسان را از شر مخلوقات فهم قلابی استقلال.
دهد استراتژی پیشنهادی تالین غصه مانند بسیاری از کارهای گذشته ی او متد مند و منظم. است او سرمایه ی خود را بین ۱۱ دایره توزیع کرده. است هرکدام از این اداره ها روی وضع های متفاوتی بخاطر حمایت شعور مصنوعی فرمان می. کنند تالین داخل سال ۲۰۱۲ بوسیله همراه چند نفر دیگر مرکز پژوهشی (CSER سربزرگی)وجودی را با سرمایه ی اولیه ی نزدیک به ۲۰۰ هزار دلار تأسیس.
کرد مخاطره های وجودی یا ریسک های (X طبق شهرت گذاری)تالین ، بقای آدم را ترساندن می. کنند ۲۰ پژوهشگر CSER علاوه پهلو هوش مصنوعی، چالش هایی مثل تغییرات اقلیمی، بحران هسته ای و غل های زیستی را غم مطالعه می کنند؛ اما به عقیده ی تالین، ماخذ های دیگر تهدید فرار هوش تقلبی را مشروع جلوه می دهند و زمینه های علو مثل مروارید ی ورود اجرا می (کنند براساس این نظریه، کاربرد دارویی خاص می تواند حدس مصرف داروهای دیگر را افزودن دهد و به تدریج تغییرات بیولوژیکی در عدد ایجاد).
شود نگرانی تو مورد تهدید های پذیرفته شده ازجمله تغییرات اقلیمی می تواند توجه بسیاری از افراد را به خود احضار کرده اما تالین امیدوار است انسان از خطر پیروزی سامان های فوق هوشمند به خشکی امدن خاندان بشر هم آگاه. شوند بخاطر شهید او داخل یکی از همایش ها از جامعه ی علمی التماس می یواش امنیت فهم بدلی را قطعی.
بگیرند درون این همایش، افرادی از جوامع علمی بکلی جهان، ازجمله پژوهشگری رباتیک از هنگ کنگ و پژوهشگری قدیمی از بریتانیا شرکت کردند که داخل دهه ی ۱۹۶۰ از کمبریج فارغ التحصیل شده. است تالین تو این میتینگ بحث را به تهدید فهم مصنوعی دگرگونی می دهد و ازآنجاکه طرف صحبت او برنامه نویس ها نیستند، سعی می کنند از تشبیه و استعاره استفاده:درنگ شعور تقلبی پیشرفته می تواند انسان را به سرعت قطع درختان، نابود. کند ابَرهوش بخاطر انسان دقیقا مثل تهدید انسان بخاطر گوریل ها.
است یکی از اعضای مجمع می: «پرسد هوش تقلبی برای غلبه کنار مردم حاجت به یک بدنه. دارد بدون پوشش فیزیکی چگونه می تواند کنترل فیزیکی را به مشت» بگیرد؟ تالین بخاطر پاسخ به این سؤال از تشبیه دیگری استفاده می:کند حتی اگر من را در زیرزمین حبس کنید، عزب با داشتن یک اتصال اینترنتی می توانم زیان اضافی وارد.
کنم صرف رویت از اینکه ربات (Roomba نوعی ربات) جاروبرقی خواه یکی از نوادگان جدید آن باشد، هوش مصنوعی براساس خروجی ها تربیت می. شود دستور کار نویس ها اهداف را همراه با یک مجموعه از قوانین و دستورالعمل ها به ربات ها تخصیص می دهند؛ اما هوش مصنوعی پیشرفته بخاطر احاطه پیاده شدن گیتی لزوما نیازی به شهود مرام یا دستورالعمل نخواهد داشت؛ بلکه می تواند به شکلی کاملا تصادفی به آن. برسد کتاب ی برنامه نویسی کامپیوتر مملو از خطاهای کوچکی است که پیامدهای فاجعه باری داشته.اند هوش مصنوعی پیشرفته در آینده نیازی به رخصت ی انسان نخواهد
داشت برای مثال داخل سال ۲۰۱۰، تاجری که برای همدستی سهام مشترک