Нотатки з книги:
“найбільша небезпека ШІ полягає в тому, що ми можемо занадто рано або занадто впевнено заявити, що його розуміємо.”
“Поява штучного інтелекту — на нашу думку — є питанням виживання людства. Як ми пояснюємо далі у цій книзі, майбутні можливості ШІ, що працюють із нечуваною швидкістю, зроблять традиційне регулювання без-глуздим. Потрібна принципово нова форма контролю. Для глобальної наукової спільноти негайним завданням є пошук технічних заходів для впровадження внутрішніх гарантій безпеки в кожну систему ШІ.”
“Крейг Манді був головним радником Microsoft з питань технологічної політики у Вашингтоні та перед іноземними урядами, одночасно керуючи Microsoft Research, а пізніше консультував керівництво дослідницької організації ОрепАІ. Ерік Шмідт очолював Google протягом десятиліття, а наступні десять років формував мережу талантів та ідей на перетині технологій, філантропії та безпеки з метою захисту людства.”
“Полімат (грец., polymathes) - той, що багато вивчив: універсал, енциклопедист, також людина епохи Відродження — людина, чий досвід охоплює значну кількість різних предметних галузей. — Тут і далі прим. пер.”
“«Відчуття» (sentience), за влучним формулюванням Ніка Бострома, автора книги Superintelligence: Paths, Dangers, Strategies («Суперінтелект: шляхи, небезпеки, стратегії»), — «це питання ступеня».* Штучні інтелекти з памʼяттю, уявою, вкоріненістю та самосприйняттям можуть невдовзі вважатися справді свідомими — розвитком, що матиме глибокі моральні та стратегічні наслідки.”
“чим складнішими й прихованішими стають загрози, тим ідеальнішими мають бути наші засоби захисту, бо фатальною може стати навіть найменша по-милка. І щоб досягти такого рівня досконалості, нам може знадобитися допомога ШI”
“розглядаючи штучний інтелект не як суперника, а як джерело натхнення.”
“на нашу думку, найімовірніше (не завдяки закликам, а через природний людський інстинкт), з часом люди неминуче оберуть новий, відповідний шлях розвитку, хай то буде освоєння інших галузей чи партнерство з ШІ, уникаючи деградації й розкриваючи свій потенціал мислителів і творців. У кінцевому підсумку, створивши системи справедливого розподілу ресурсів, комунікації, залученості й навчання, люди, які усвідомили можливості ШІ, зможуть працювати вже не з необхідності, а за покликом серця, знаходячи задоволення в тому, що справді важливо.”
“треба прямо сказати: якщо стане очевидно, що неможливо створити систему надійного технічного стратегічного контролю, тоді краще жити у світі без загального штучного інтелекту (ЗШІ), ніж у світі, де існує хоча б один 3ШІ, не узгоджений із людськими цінностями.”
No comments:
Post a Comment