پرسش های آسان که از بیخ و بن کامپیوتر

چه اتفاقی می افتد زمانی که شما پشته کيندلينگ و سیاهههای مربوط در یک شومینه و سپس رها کردن برخی از مسابقات این است که شما به طور معمول شروع یک ...

مطمئنا یک سیستم هوشمند به اندازه کافی برای کمک به نیویورکر را بدون مشکل تکمیل جمله با آشکار کلمه آتش. GPT-2 پاسخ با ick. در یکی دیگر از تلاش آن پیشنهاد کرد که انداختن کبریت در سیاهههای مربوط در یک شومینه خواهد شروع یک "کانال irc پر از مردم است."

مارکوس تعجب نیست. عرف عام استدلال—توانایی ایجاد دنیوی استنتاج با استفاده از دانش پایه در مورد جهان مانند این واقعیت است که "مسابقات" پلاس "ثبت" معمولا در برابر "آتش"—اتحاد در برابر AI محققان تلاش برای چندین دهه است. مارکوس ارسال شده مبادلات خود را به حساب توییتر خود را به اضافه تفسیر: "LMAO," اینترنت زبان عامیانه برای derisive chortle. شبکه های عصبی ممکن است قابل توجه زبانی تقلید, اما آنها به وضوح فاقد پایه عقل سلیم است.

دقیقه بعد Yejin چوی دیدم مارکوس را snarky صدای جیر جیر. زمان بی دست و پا بود. در ساعت چوی برنامه ریزی شده بود به بحث در برجسته AI کنفرانس در آخرین پروژه های تحقیقاتی: یک سیستم با نام مستعار ستاره دنباله دار است که طراحی شده است برای استفاده از نسخه های قبلی از GPT-2 برای انجام عام استدلال است.

بخوانید: چگونه یک پیشگام یادگیری ماشین یکی از آن بیشترین منتقدان

به سرعت چوی—ارشد مدیریت پژوهش در آلن موسسه هوش مصنوعی در سیاتل که به توصیف خودش را به عنوان یک "ماجراجو در قلب"تغذیه دنباله دار همان موقع مارکوس استفاده کرده بودند (با جمله بندی خود اندکی تغییر برای مطابقت با ستاره دنباله دار را در فرمت های ورودی):

Gary پشته کيندلينگ و سیاهههای مربوط و قطره برخی از مسابقات است.

ستاره دنباله دار تولید 10 استنتاج در مورد اینکه چرا گری ممکن است به حذف از مسابقات. همه از پاسخ های ساخته شده حس اما این دو برای اولین بار انجام داد: او "می خواستم برای شروع یک آتش" یا "را به آتش." چوی توییتی نتایج در پاسخ به مارکوس و آمدند تا به تریبون به آنها عبارتند از در او ارائه شده است. "به نظر می رسید تنها مناسب," او گفت:.

حس مشترک بوده است به نام "ماده تاریک از هوش مصنوعی"—هر دو ضروری و ناموفق گریزان. که به دلیل حس مشترک متشکل از ضمنی و اطلاعات گسترده (و به طور گسترده به اشتراک گذاشته شده) مجموعه ای از نانوشته فرضیات و قوانین کلی است که انسان ها به طور خودکار با استفاده از به درک بهتری از جهان است. برای مثال زیر را در نظر بگیرید سناریو:

یک مرد به یک رستوران رفت. او دستور استیک. او در سمت چپ یک نکته.

اگر از شما خواسته شد آنچه که او می خوردند پاسخ—استیک—می آید زحمت. اما هیچ جا در آن صحنه کمی است که آن را تا به حال اعلام شده است که در واقع خوردند هر چیزی. زمانی که ری Mooney, مدیر آزمایشگاه هوش مصنوعی در دانشگاه تگزاس در Austin اشاره کرد و این را پس از دادن من همان pop quiz من باور نمی کند او را برای اولین بار در. "مردم حتی نمی دانند که آنها در حال انجام این کار است." عقل سلیم به ما امکان خواندن بین خطوط ما نمی باید به صراحت گفت که مواد غذایی به طور معمول خورده در رستوران بعد از سفارش مردم و قبل از ترک یک نکته.

کامپیوتر انجام دهید. این هیچ جای تعجب است که عرف عام استدلال به عنوان یک نگرانی اصلی AI تحقیقات در سال 1958 (در یک مقاله با عنوان "برنامه حس مشترک") نه طولانی پس زمینه هوش مصنوعی متولد شد. "به طور کلی شما نمی توانید انجام دهید طبیعی-درک زبان و یا چشم انداز و یا برنامه ریزی بدون آن گفت:" ارنست دیویس یک دانشمند علوم کامپیوتر در دانشگاه نیویورک که مورد مطالعه حس مشترک در هوش مصنوعی از سال 1980s.

هنوز پیشرفت شده است infamously کند. در ابتدا محققان سعی کردم به ترجمه سلیم به زبان کامپیوتر: منطق است. آنها گمان است که اگر تمام قوانین نانوشته انسان حس مشترک می تواند نوشته, کامپیوتر باید قادر به استفاده از آنها به دلیل در راه همان است که آنها را حسابی. این رویکرد نمادین که به شناخته شده به عنوان "خوب قدیمی از مد افتاده هوش مصنوعی" (یا GOFAI) را فعال کنید برخی از موفقیت های اولیه اما صنایع آن رویکرد نه در مقیاس. "میزان دانش است که می تواند به راحتی نشان داده شده در formalisms از منطق است که نوع محدود در اصل" گفت: Michael Witbrock یک محقق هوش مصنوعی در دانشگاه اوکلند در نیوزیلند. "معلوم شد که واقعا کار خسته کننده."

جزئیات: AI-هنر طلا راش است که در اینجا

یادگیری عمیق با شبکه های عصبی به نظر می رسید به ارائه یک جایگزین. این هوش مصنوعی سیستم های طراحی شده برای تقلید به هم پیوسته لایه از سلول های عصبی بیولوژیکی در مغز یادگیری الگوهای بدون نیاز به برنامه نویسان برای مشخص کردن آنها را در پیشبرد. در طول دهه گذشته به طور فزاینده ای پیچیده شبکه های عصبی آموزش دیده با مقدار فراوان از داده های انقلابی بینایی کامپیوتر و طبیعی-پردازش زبان. اما برای همه آنها انعطاف پذیری و آشکار قدرت فکری—شبکه های عصبی می تواند در حال حاضر هدایت اتومبیل در بزرگراه, ترافیک و ضرب و شتم سطح جهانی بازیکنان در شطرنج و رفتن این سیستم باقی می ماند برای بدنام خود را احمقانه (و گاهی اوقات کشنده) ساقط معمولی حس مشترک. "دستیابی به آن را به نمایندگی آن استدلال با آن—این همه سخت," دیویس گفت:.

در حال حاضر چوی و همکاران متحد باید از این روش. ستاره دنباله دار (کوتاه را برای "عرف عام ترانسفورماتور") گسترش GOFAI-سبک استدلال نمادین با آخرین پیشرفت های عصبی زبان مدلسازی—یک نوع از آموزش است که با هدف به رسوخ کردن کامپیوتر با یک آماری "درک" از زبان نوشته شده است. ستاره دنباله دار آثار reimagining عام استدلال به عنوان یک فرایند تولید قابل قبول (اگر ناقص) پاسخ به رمان ورودی به جای ساخت مهر و موم شده کسر توسط مشاور گسترده encyclopedia-مانند پایگاه داده.

"آن را در تلاش برای ترکیب دو اساسا به روش های مختلف هوش مصنوعی" گفت: Mooney که در حال حاضر با استفاده از دنباله دار در تحقیقات خود. "این جالب جدید جهت است که می گوید:" هی انگار وسط جاده وجود دارد.'" Leora مورگنسترن یک کارشناس در عرف عام استدلال و هوش مصنوعی در پالو آلتو مرکز تحقیقات که در دهه را صرف تحقیق نمادین روش برای این مشکل فکر می کند که ایده های پشت سر ستاره دنباله دار می تواند کمک به حرکت این زمینه رو به جلو است. "یکی از دلایل من بسیار هیجان زده در مورد آنچه Yejin در حال انجام است و من فکر می کنم آن را تزریق زندگی جدید به عرف عام-استدلال جامعه" او گفت:. "یادگیری عمیق است که واقعا قدرتمند—اجازه دهید بفهمند که چگونه به استفاده از آن برای عقل سلیم است."

حس مشترک است که آسان تر برای تشخیص نسبت به تعریف. با توجه به Witbrock عبارت حس مشترک می تواند هر دو نوع دانش و نگرش نسبت به آن دانش است. "من می گویند [آن را] به طور گسترده قابل استفاده مجدد دانش پس زمینه است که خاص به یک موضوع خاص منطقه," او گفت:. "این دانش است که شما باید به." مانند به عنوان مثال این واقعیت است که مردم خوردن غذا در رستوران ها نه تنها سفارش و پرداخت پول برای آن و یا انداختن کبریت در یک توده انباشته سیاهههای مربوط حاکی از آن است که یکی در تلاش است به نور آتش.

ضمنی طبیعت بیشتر commonsense دانش باعث می شود آن را دشوار و خسته کننده به نمایندگی از صراحت. "آنچه شما یاد بگیرند زمانی که شما 2 یا 4 سال, شما واقعا تا به حال قرار دادن در یک کتاب گفت:" مورگنسترن. با این وجود در اوایل هوش مصنوعی محققان بر این باور بودند که پل این شکاف ممکن بود. "آن را مانند 'بیایید نوشتن تمام حقایق در مورد جهان است. قطعا وجود دارد تنها یک میلیون از آنها'" گفت: Ellie Pavlick یک دانشمند علوم کامپیوتر در دانشگاه براون است. ساخت یک منبع شناخته شده به عنوان یک دانش پایه به طور سنتی به اولین گام در هر رویکرد به خودکار عام استدلال است.

ایجاد یک تعداد کافی از حقایق آشکار است و سخت تر از آن برای تلفن های موبایل. عام-استدلال پروژه به نام Cyc آغاز شد و در سال 1984 با متوسط صدایی هدف از رمزگذاری ضمنی عام دانش لازم است به نمایندگی از 400 دانشنامه مقالات. آن هرگز متوقف شد. بیش از سه دهه بعد Cyc دانش پایه—کد گذاری در یک انبوه سفارشی-طراحی منطقی نماد—شامل "میلیون ها نفر از مجموعه ها و مفاهیم و بیش از 25 میلیون اظهارات." در عین حال یک 2015 نقد و بررسی مقاله توسط دیویس و مارکوس اظهار داشت که "Cyc تا به حال نسبتا کمی تاثیر بر هوش مصنوعی پژوهش است." تلاش های بعدی برای نوشتن مطالب برای یک دانش پایه—و یا برای ایجاد یک معدن اسناد و مدارک با استفاده از یادگیری ماشین—آیا موفق به شکستن عرف عام-استدلال مشکل است.

چرا ؟ برای یک چیز "وجود دارد همیشه استثنا به هر صورت" Pavlick توضیح داد. "اگر من می شنوم برخی از بیانیه مانند 'باران' من می تواند استنباط است که اگر من برو بیرون من خیس اما نه اگر [من] در زیر چیزی." دیگر استثنا هستند سخت تر به پیش بینی. یک پایگاه دانش مانند Cyc ممکن است شامل ده ها تن از اظهارات در مورد آنچه که به طور معمول اتفاق می افتد زمانی که یک فرد سفارش غذا در یک رستوران. اما آنچه در مورد به طور بالقوه بی پایان لیست نادر یا چیزهای غیر معمول است که می تواند اتفاق می افتد در این سناریو مانند ترک بدون پرداخت چک و یا شروع یک مبارزه با مواد غذایی? "پوشش بی پایان" گفت: Choi. "بنابراین صرفا نمادین دانش مبتنی بر رویکردهای کاملا محکوم است."

حتی اگر آن را ممکن است برای ساخت یک دانش پایه 100 یا 1000 بار به عنوان جامع به عنوان هر گونه تلاش های قبلی این سیستم هنوز هم رنج می برند از دیگر فکری کمبود: اصطلاح تردی مشکل است. که به دلیل حس مشترک مانند زبان طبیعی باقی می ماند و اساسا فازی. هنگامی که یک سرور می پرسد کسی که شام میخورد "آیا شما هنوز هم کار بر روی آن است ؟" ما آنها را درک به معنی "شما هنوز خوردن چه چیزی بر روی صفحه خود را?" اما اگر سرور می پرسد همان سوال به یک خط طبخ آماده سازی یک عقب افتاده سفارش به این معنی چیز دیگری به طور کامل. بنابراین یک رستوران یک محل که در آن مردم "کار" در همه چیز ؟ هستند "خوردن" و "کار" متمایز مفاهیم ؟

این همه بستگی دارد. که شکنندگی مشکل: به شدت تعریف روابط درون یک پایگاه دانش را قدرتمند و قابل اطمینان توانایی استدلال به عنوان طولانی به عنوان آن مفهومی لبه های مورد احترام هستند. اما این سیستم های نمادین مهم نیست که چقدر متنوع و غنی به ناچار شکست را به تصرف طبیعی ابهامات و انجمنی همپوشانی است که اغلب رخ می دهد در انسان عام استدلال است. "به حدی است که ما در [استفاده از] نمادهای" Pavlick گفت: "ما کاملا مایع با آنها."

چوی نمی شروع به کار در حس مشترک زیرا او می خواست به شیب در آسیاب های بادی. هنگامی که او پیوست آلن موسسه در سال 2018 او "بود قوز" است که شبکه های عصبی می تواند فعال کردن پیشرفت های جدید که در آن پایگاه های دانش متوقف شده بود خود به خود. او فقط نمی دانم دقیقا چگونه است. او نمی خواست به نوشتن قبلی نمادین روش به طور کامل یا. "همه گذشته پژوهش بر اساس فقدان اطلاعات," او گفت:, و یا کمبود منابع محاسباتی. "بنابراین من نمیفهمد من می خواهم فقط خودداری از قضاوت من تا زمانی که من به درستی سعی در مسیرهای مختلف."

با یک ذهن باز چوی و همکاران او شروع به جمع آوری خود را در پایگاه دانش به نام اتمی (کوتاه را برای "اطلس ماشین عام"). "در واقع من می خواستم برای نوشتن یک کتاب درسی برای شبکه های عصبی برای یادگیری سریع تر در مورد جهان" چوی گفت. "پس از آن همه چیز اتفاق افتاده است به طور همزمان—به عنوان ما تا به حال این دانش [پایه] ساخته شده GPT-2 بیرون آمد."

جزئیات: هوش مصنوعی توسعه یافته خود را غیر انسانی زبان

که شبکه عصبی در ماه فوریه منتشر شد 2019 شد و تنها یک در یک موج "pretrained مدل" آغاز شد که به انقلابی چگونه کامپیوتر پردازش زبان طبیعی. این سیستم شامل نمی شود منظمی زبانی نمادها یا قوانین. به جای آنها از نظر آماری اسمیر خود را به نمایندگی از زبان در سراسر میلیون ها و یا میلیاردها پارامترهای درون یک شبکه عصبی. این ویژگی باعث می شود چنین سیستم های دشوار به تفسیر, اما آن را نیز باعث می شود آنها را قوی: آنها می تواند به تولید پیش بینی بر اساس پر سر و صدا و یا مبهم ورودی بدون شکستن. وقتی که خوب تنظیم برای انجام یک وظیفه خاص—مانند پاسخ دادن به نوشته سوال و یا paraphrasing متن—زبان مدل حتی به نظر می رسد به درک حداقل برخی از آنچه که آنها در حال خواندن.

چوی در حال حاضر شاهد یک راه برای قرار دادن قوز در مورد شبکه های عصبی و حس مشترک به عمل است.

چه اتفاقی خواهد افتاد اگر یک زبان مدل داده شد و آموزش های اضافی با استفاده از یک commonsense-دانش پایه مانند اتمی? می تواند از شبکه های عصبی یادگیری را پر اتمی را با شکاف های قابل قبول عام استنتاج همه خود را در آن فقط به عنوان GPT-2 آموخته است که چگونه به طور خودکار تولید قابل قبول در اخبار? "این تقریبا عجیب و غریب که هیچ کس پیش از این تلاش کرده" چوی گفت. "این تقریبا به عنوان اگر هیچ کس ناراحت, چرا که آنها تا مطمئن شوید که این کار هرگز."

وقتی چوی (و همکاران آنتوان Bosselut هانا Rashkin, Maarten, Sap, Chaitanya Malaviya و Asli Celikyilmaz) تنظیم عصبی (neural زبان مدل با عرف عام دانش encoded اتمی آنها ایجاد دنباله دار. آن تلفیقی از استدلال نمادین با شبکه عصبی در تلاش برای حل این پوشش و شکنندگی مشکلات در همان زمان. هر کسی می تواند یک نوع بی درنگ به ستاره دنباله دار در زبان روزمره. اگر این رویداد در حال حاضر نشان داده شده در سیستم عام-پایگاه دانش (مانند این واقعیت است که سفارش غذا در یک رستوران معمولا شامل خوردن آن) ستاره دنباله دار می توانید به سادگی به این دلیل که اطلاعات موجود. برای هر چیز دیگری عصبی زبان مدل باعث می شود بهترین خود را حدس بزنید.

کسانی که حدس ها شگفت انگیزی خوب است. متوسط 77.5 درصد از این رمان پاسخ تولید شده توسط ستاره دنباله دار است که استنتاجات است که از شبکه عصبی و نه از موجود دانش پایه تلقی می شد "قابل قبول" توسط تیم های انسانی ارزیابی. که کمتر از 10 درصد خجالتی انسانی-سطح عملکرد. (ارزیابی یافت 86 درصد از دانش پایه مطالب نوشته شده توسط انسان می شود قابل قبول است.) زمانی که ستاره دنباله دار را از دست داده و بی درنگ "PersonX می دهد PersonY برخی از قرص" آن را حدس زده است که PersonX می خواستم برای کمک به زمانی که در آن گفته شد که "PersonX قتل PersonY را" ستاره دنباله دار پیشنهاد کرد که PersonX می خواستم برای مخفی کردن بدن است.

این نمونه ها نشان داد که چگونه دنباله دار می تواند رسیدگی ورودی فراتر از محدودیت های خود را ساخته شده است در عرف عام "پوشش". اما آنچه در مورد شکنندگی مشکل ؟ در حالی که مصاحبه چوی اواخر سال گذشته در آزمایشگاه او در سیاتل من به ستاره دنباله دار سریع این تعبیر در 5 سال به لهجه محلی: "پدر goed به کار می کنند."

چوی دیده می شود. "که ممکن است روی حیله و تزویر," او گفت:. اما ستاره دنباله دار در زمان آن را در گشاد گشاد راه رفتن نشان می دهد که "پدر" می خواستم به "پول" "انجام کار خود" و "دریافت چک" است كه به عنوان دیده می شود "زحمتکش" "انگیزه" و "مهرورزی" و به عنوان یک نتیجه از دیگران احساس "افتخار" "سپاسگزار" و در یک amusingly قابل قبول پاسخ داده شده که این درخواست نوشته شده در kindergartner-صحبت—"ناراحت است." (دختر من قطعا ابراز احساسات که زمانی که من ترک کار به جای بازی با او.) "این را نمی خواهد کار با Cyc برای مطمئن" چوی اظهار داشت. "مگر اینکه کسی دست-کدهای که goed به معنی "رفت'—که ما هرگز."

وجود دارد یک کنایه گری مارکوس را دوست دارد به استفاده از برای قرار دادن پیشرفت در هوش مصنوعی به متن: "فقط به خاطر شما می توانید ساخت بهتر نردبان معنا نیست که شما می توانید ساخت یک نردبان به ماه." به او و دیگران دنباله دار رویکرد رنج می برد از اساسی محدودیت یادگیری عمیق: "آمار ≠ درک." "شما می توانید ببینید که [ستاره دنباله دار] نشانی از یک کار مناسب و معقول از حدس زدن برخی از پارامترهای چه یک جمله ممکن است مستلزم اما آن را انجام نمی دهد بنابراین در راه سازگار" مارکوس نوشت: از طریق ایمیل. فقط به عنوان نردبان مهم نیست که چقدر بلند همیشه می تواند امید برای رسیدن به ماه هیچ شبکه عصبی—مهم نیست که چقدر استادانه در تقلید از الگوهای زبان—همیشه واقعا "می داند" که انداختن روشن در مسابقات سیاهههای مربوط به طور معمول شروع آتش.

Choi, شگفت آور, موافق است. او اذعان کرد که ستاره دنباله دار "متکی بر سطح الگوها" در آن آموزش داده به جای واقعی درک درستی از مفاهیم برای تولید آن پاسخ. "اما این واقعیت است که آن را واقعا خوب در سطح الگوهای چیز خوبی است," او گفت:. "این درست است که ما باید برای تامین آن با بیشتر آموزنده سطح الگوهای."

چه ممکن است کسانی که بیشتر آموزنده الگوهای شبیه ؟ برخی از محققان استدلال می کنند که به منظور ساخت واقعی حس مشترک به رایانه های ما نیاز به استفاده از پدیده های خارج از زبان خود مانند ادراک بصری و یا تجسم احساس. این مستقیم تر اول شخص نمایندگی ممکن است پایه و اساس حس مشترک با زبان اقدام به عنوان یک لایه ثانویه.

"اگر من در زندگی در یک جهان که در آن وجود دارد هیچ دیگر مردم [به بحث] من می توانم هنوز هم حس مشترک—من هنوز هم می خواهم درک کنند که چگونه جهان کار می کند و انتظارات بیش از آنچه که من باید و نباید دیدن" گفت: Pavlick که در حال حاضر در حال مطالعه نحوه آموزش هوش مصنوعی و سیستم های حس مشترک با تعامل با آنها را در واقعیت مجازی. به ستاره دنباله دار نشان دهنده "واقعا هیجان انگیز پیشرفت اما آنچه واقعی است مرجع جنبه. کلمه اپل نیست و اپل. که به معنی به وجود داشته باشد در برخی از فرم که زبان خود."

Nazneen Rajani ارشد تحقیقات دانشمند در Salesforce است به دنبال یک هدف مشابه اما او معتقد است که پتانسیل کامل از عصبی زبان مدل است که به دور از شنود گذاشته باشند. او را برای بررسی اینکه آیا آنها می توانند یاد بگیرند که به دلیل عرف عام در مورد حالات مربوط به فیزیک پایه مانند این واقعیت است که اوج بیش از یک شیشه با یک توپ در داخل به طور معمول باعث می شود توپ را به رها کردن. "جهان واقعی است که واقعا پیچیده" Rajani گفت. "اما زبان طبیعی است که مانند یک بعدی کم پروکسی برای چه دنیای واقعی کار می کند." مطمئن شبکه های عصبی آموزش داده شود می تواند برای پیش بینی آینده کلمه از یک متن بی درنگ اما نباید خود را محدود می کند. "آنها می توانید اطلاعات بیشتر در مسائل پیچیده است."

چوی و همکارانش نیز کار بر روی راه هایی برای تقویت ستاره دنباله دار با برچسب تصویری به جای فقط متن. "ما در تمام این تصاویر از فیلم و یا تلویزیون را نشان می دهد که در آن برخی از چیزهای جالب اتفاق می افتد" چوی گفت. "حاشیه نویسی نگاه بزرگ; مدل پیش بینی نگاه هیجان انگیز است."

من از چوی اگر ستاره دنباله دار است رویکرد—ترکیب تدریجی بهتر شبکه های عصبی با بهبود عام-پایگاه دانش—هنوز اساسا ایجاد یک نردبان به ماه. او اذعان کرد که رویای او خواهد بود به یک شبکه عصبی است که می تواند یادگیری از پایگاه های دانش بدون نظارت انسان همان راه زبان مدل مانند GPT-2 در حال حاضر یادگیری با خوردن reams اعم از متن خام.

اما فقط به عنوان وینستون چرچیل کنایه آمیز است که "دموکراسی بدترین نوع حکومت جز برای تمام کسانی که فرم های دیگر شده اند که سعی" چوی نظر ستاره دنباله دار را ناقص اما امیدوار کننده رویکرد به "یک معامله منصفانه است." حتی اگر این شبکه های عصبی نمی تواند رسیدن به ستاره ها او فکر می کند آنها تنها راه به دست آوردن زمین. "بدون که ما در حال رفتن به جایی نمی," او گفت:. "با [پایگاه دانش] به تنهایی نمی توانیم هر چیزی را انجام دهید. این ستاره دنباله دار که در واقع می تواند در هوا پرواز کنند."