Нотатки. Зберігайте та систематизуйте свої знання. (promo)
Кращі нотатки:
“Ми розглянемо кінетику вибуху штучного інтелекту, його форми й здібності, а також варіанти стратегічного вибору, перед якими опиниться суперінтелектуальний агент, щойно дістане вирішальну перевагу. Після цього ми зупинимося на питанні контролю й подумаємо, що можна зробити, щоб штучний інтелект не загрожував нашому виживанню, а, навпаки, приносив користь. Ближе до кінця книжки спробуємо оглянути майбутнє, що постає з цього дослідження, під ширшим кутом. І висловимо припущення, що можна зробити зараз, щоб уникнути екзистенційної катастрофи потім.”
“Двадцять років - улюблений відрізок для пророків значних змін. Цей період достатньо близький у часі, щоб привернути увагу і звучати солідно, але й достатньо віддалений, щоб очікувати запуск необхідних важливих процесів, які сьогодні важко уявити… Крім того, якраз двадцять років зазвичай залишається до закінчення карʼєри футурологів, які наважуються пророкувати майбутнє, тому навіть якщо передбачення не збудуться, великої шкоди їхній репутації це не завдасть.”
“Математик Ірвінг Джон Гуд, який під час Другої світової війни був головним статистиком у Тюрінговій команді зі зламу шифрів, став, мабуть, першим, хто передбачив саме такий розвиток подій. Його слова, сказані ще 1965 року, часто цитують: Введемо поняття ультрарозумної машини, тобто машини, яка зможе перевершити в інтелектуальній діяльності навіть найрозумнішу людину. Оскільки створення машини - це теж інтелектуальна діяльність, ультрарозумна машина зможе створювати ще розумніші машини; а тоді, поза сумнівом, відбудеться «вибух інтелекту», і людський розум залишиться далеко позаду. Тому перша ультрарозумна машина стане останнім винаходом людини - але тільки в тому разі, якщо машина виявиться слухняною і навчить нас керувати собою”,"
“Думаю, після створення штучного інтелекту, рівного людському, поява суперінтелекту не займе багато часу. Щодо наслідків, то мої очікування більш радикальні, - вони радше будуть або дуже добрі, або дуже погані, аніж десь посередині. Хід моїх думок я спробую пояснити в цій книжці.”
“Спробуємо дати суперінтелекту таке попереднє означення: інтелект, розумові можливості якого в більшості важливих для людини сфер діяльності перевищують людські можливості.”
“Застосовувати процес навчання для базової машини, щоб вона могла досягнути розумності, зіставної з людською, пропонував ще Алан Тюрінг у своєму описі «машини-дитини» в 1950 році: Чому б замість спроб створити програмну симуляцію розуму дорослого не спробувати створити симуляцію розуму дитини? Адже якщо його правильно навчати, можна згодом отримати дорослий.”
“Розмір мозку в комах різний. Більші й соціальні комахи мають найбільший мозок: • бджола має 10^6 нейронів, дрозофіла - 10^5, а мураха - у середньому 250 000 нейронів”. Більшість менших комах має лише близько тисячі нейронів."
“у нас є ще один важливий концепт - «рекурсивне самовдосконалення». Успішна модель «зерна ШІ» має вміти покращувати себе - початкова версія може вдосконалювати себе, створюючи нову розумнішу версію, яка так само може зробити ще розумнішу версію себе і так далі.”
“шлях до досконалості починається від недосконалості.”
“Швидкий суперінтелект - це інтелект, схожий на людський, але значно швидший. Аналізувати таку концепцію суперінтелекту найлегше. Можемо визначити його так: Швидкий суперінтелект - система, здатна робити все, що й людина, тільки значно швидше.”
“Колективний суперінтелект - система, що обʼєднує велику кількість інтелектів так, що загальна продуктивність системи у великій кількості узагальнених галузей знань перевищує можливості будь-якої сучасної інтелектуальної системи.”
“Мудрим можемо називати того, хто не помиляється у важливих речах.”
“Якісний інтелект - інтелектуальна система, яка своєю швидкодією не поступається людському мозку і водночас якісно розумніша.”
“Швидкість обчислень. Біологічні нейрони працюють із частотою 200 Гц - на сім порядків менше, ніж сучасні процесори (близько (2 ГГц). Мозок нездатний швидко виконувати безліч послідовних операцій, але може виконувати багато чого одночасно”
“Швидкісний внутрішній обмін даними. Швидкість поширення сигналу аксоном становить близько 120 м/с, тоді як оптичний чи електромагнітний сигнал між ядрами процесора поширюється зі швидкістю світла (близько 300 000 000 м/с). Саме швидкість поширення сигналу в живому мозку обмежує розмір, за якого він здатен працювати як єдине ціле.”
“Екзистенційний ризик - це ризик повного зникнення або руйнування потенціалу розумного життя на Землі.”
“ми маємо памʼятати: план дій очевидний і природний для нас необовʼязково є таким для суперінтелекту з вирішальною стратегічною перевагою, і навпаки.”
“Оракул - це система, яка відповідає на питання. Вона може розуміти запитання, сформульовані природною мовою, і надавати відповіді як текст… У будь-якому разі побудова оракула, який здатен вільно відповідати на усні запитання з різних сфер знань, - завдання за складністю співмірне зі створенням повноцінного ШІ. Той, хто здійснить його, імовірно, зможе створити систему, здатну розуміти не тільки природну мову, а й справжні наміри людини.”
“Джином називатимемо систему, яка виконує команди: оператор дає їй загальну команду, система має виконати і і зупинитися, поки не надійде наступна. А сувереном називатимемо систему, якій надано повну свободу діяльності для досягнення певної довгострокової мети.”
“Ідеальний джин має бути схожим на супердворецького, а не генія-відлюдника.”
“Еволюційна електроніка - це автоматизований процес пошуку оптимальної реалізації певної електронної системи, у якому еволюційний алгоритм формує потенційні реалізації системи за допомогою масиву змінних компонентів і оцінює оптимальність їхніх параметрів.”
“Інженери, які досліджували еволюційну електроніку, виявили, що схеми, створені в такий спосіб, були в рази, а іноді в десятки разів меншими, ніж створені людьми аналоги. Фізичні характеристики електронних компонентів у таких схемах часто використовувалися в незвичайний спосіб.”
“Інструмент - Система, позбавлена здатності до прагнення власної цілі”
“Хоч багато видів роботи тепер виконують механізми, наразі технології радше доповнюють, а не замінюють людей. Саме через це середні заробітні плати у всьому світі вже тривалий час зростають.”
“Наше когерентне екстрапольоване бажання - це те, чого ми бажали б, якби мали більше знань, могли швидше думати, були ближчими до власного ідеального бачення себе, стали би більш єдними; екстрапольоване в точці майбутнього, де окремі бажання збігаються в одне, а не розбігаються; резонують спільністю, а не перебивають одне одного, розʼєднуючи нас; екстрапольоване в бажаному для нас напрямі, трактоване в потрібній для нас площині”
Вправи для читання (promo)
No comments:
Post a Comment