Последняя статья генерального директора Claude из 10 000 слов более рациональна и практична, чем Сэм Альтман!
Антропология В своих последних статьях генеральный директор Дарио Амодеи и генеральный директор OpenAI Сэм Альтман демонстрируют разные взгляды своих компаний на направление развития ИИ. Дарио Амодеи подчеркивает интерпретируемость и безопасность моделей ИИ как ключ к обеспечению надежности и управляемости систем ИИ, а Сэм Альтман фокусируется на коммерциализации ИИ и технологическим прорывам, делая акцент на развитии возможностей ИИ за счет крупномасштабных вычислений и использования данных. Есть различия между ними и в долгосрочных целях развития ИИ: Дарио Амодеи уделяет больше внимания долгосрочному влиянию ИИ на человеческое общество, безопасность, в то время как Сэм Альтман больше склоняется к коммерческой выгоде от ИИ и социальным изменениям благодаря технологическому прогрессу.
Дарио Амодей получил докторскую степень по нейронаукам в Стэнфорде, и в своей последней статье "Машины любящей милости" он описывает положительное влияние будущего сильного искусственного интеллекта (он предпочитает не называть его AGI) на человека, обладающего строгими и детальными процессами рассуждений в каждой области, которые будут гораздо более рациональными, объективными и актуальными, чем у Сэма Альтмана!
Эту статью объемом 10 000 слов стоит прочитать всем, кому небезразличен ИИ.
Из-за объема статьи я кратко изложил ее ключевые моменты. Тем не менее, я рекомендую вам прочитать оригинал статьи, за которым следует перевод оригинального текста.
Основной аргумент: Амодей считает, что сильный ИИ (он избегает использовать термин AGI) способен радикально улучшить жизнь человека, несмотря на риски. Он предсказывает, что в течение 5-10 лет после появления сильного ИИ мы станем свидетелями огромных достижений в области биологии, нейронаук, экономического развития, мирного управления, работы и смысла жизни.
Ключевой компонент:
Потенциал сильного ИИ недооценивается: Амодей утверждает, что большинство людей недооценивают потенциальные преимущества сильного ИИ, равно как и недооценивают его риски. Он утверждает, что сильный ИИ приведет к фундаментально позитивному будущему, и что риск - единственное препятствие на пути к этому будущему". Я думаю, что большинство людей недооценивают потенциальные преимущества сильного ИИ так же, как и его риски".
Определения и рамки для сильного ИИ:Амодей определяет сильный ИИ как систему ИИ, подобную современным крупномасштабным языковым моделям, которая будет более интеллектуальной, чем лауреаты Нобелевской премии, и будет обладать возможностями взаимодействия и действий, эквивалентными человеческим. По его прогнозам, сильный ИИ появится в 2026 году или раньше и примет форму "нации гениев, ориентированных на данные"." Сильный ИИ, под которым я подразумеваю модель ИИ, формально похожую на современные крупномасштабные языковые модели, хотя она может быть основана на другой архитектуре, может включать несколько моделей взаимодействия и может обучаться по-другому, обладает следующими свойствами:
С точки зрения чистого интеллекта, он умнее лауреата Нобелевской премии в большинстве соответствующих областей - биологии, программировании, математике, инженерии, писательстве и т. д. Это значит, что он может доказывать нерешенные математические теоремы, писать очень хорошие романы, создавать сложные кодовые базы с нуля и так далее.
Ограничения прогресса ИИ: Амодей представил концепцию "Предельного выигрыша от интеллекта", которая предполагает, что другие факторы, помимо самого интеллекта, могут ограничивать темпы прогресса ИИ, такие как скорость внешнего мира, необходимость в данных, внутренняя сложность, человеческие ограничения и законы физики.
"Я думаю, что в эпоху ИИ мы должны говорить о предельных преимуществах интеллекта и пытаться понять, какие другие факторы дополняют интеллект, а какие могут стать ограничивающими факторами, когда интеллект очень высок".
Пять ключевых областей изменений:
1. Биология и здоровье: По прогнозам Амодея, сильный ИИ ускорит весь процесс биологических исследований, сократив ближайшие 50-100 лет биологических и медицинских достижений до 5-10 лет. Это приведет к надежной профилактике и лечению практически всех естественных инфекционных заболеваний, устранению большинства видов рака, эффективной профилактике и лечению генетических нарушений, предотвращению болезни Альцгеймера и увеличению продолжительности жизни человека.
"Мой основной прогноз заключается в том, что биология и медицина с помощью ИИ позволят нам в течение 5-10 лет сжать прогресс, которого человеческие биологи добьются в течение следующих 50-100 лет. Я называю это "сжатым XXI веком": то есть после разработки сильного ИИ мы за несколько лет добьемся всего того прогресса, которого добились в биологии и медицине в XXI веке".
2. Нейронаука и психология:Амодей считает, что сильный ИИ произведет революцию в области нейронаук и психического здоровья, ускорив открытие нейронаучных инструментов и методов, а также применив идеи самого ИИ (например, интерпретируемость и масштабирование гипотез). Это приведет к излечению или предотвращению большинства психических заболеваний, а также к огромному расширению когнитивных и эмоциональных возможностей человека.
"Я полагаю, что эти четыре направления прогресса, работающие вместе, подобно физическим болезням, могут вылечить или предотвратить большинство психических заболеваний в течение следующих 100 лет даже без участия ИИ - так что они могут быть вылечены при 5-10-летнем ускорении ИИ".
3. Экономическое развитие и бедность: Амодеи признал, что способность ИИ решать проблемы неравенства и способствовать экономическому росту менее очевидна, чем способность изобретать технологии. Однако он не теряет оптимизма по поводу того, что ИИ может помочь развивающимся странам догнать развитые страны за счет оптимизации распределения медицинских услуг, стимулирования экономического роста, обеспечения продовольственной безопасности, смягчения последствий изменения климата и устранения неравенства внутри стран.
"В целом я оптимистично настроен на то, что биологические достижения в области ИИ вскоре принесут пользу людям в развивающихся странах. Я надеюсь, но не уверен, что ИИ также приведет к беспрецедентным темпам экономического роста, что позволит развивающимся странам хотя бы догнать по уровню развитые страны".
4. Мир и управление: Амодей утверждает, что сам по себе ИИ не гарантирует развития демократии и мира, поскольку им могут воспользоваться как авторитарные, так и демократические режимы. Он призывает демократические страны принять "согласованную стратегию", чтобы получить преимущество за счет обеспечения цепочек поставок мощного ИИ, его быстрого масштабирования и предотвращения или задержки доступа противников к ключевым ресурсам, таким как чипы и полупроводниковое оборудование. Это позволит демократическим странам доминировать на мировой арене и в конечном итоге будет способствовать распространению глобальной демократии.
"Я считаю, что сам по себе ИИ не гарантирует прогресса демократии и мира, потому что его могут использовать как авторитарные, так и демократические режимы".
5. Работа и значение: Амодей утверждает, что даже в мире, где ИИ выполняет большинство задач, люди все равно смогут найти смысл и цель. Он утверждает, что смысл жизни в первую очередь заключается в отношениях и связях, а не в экономическом труде. Однако он признает, что экономика, управляемая ИИ, может бросить вызов нашей нынешней экономической системе, и что необходим более широкий социальный диалог для изучения того, как будет организована экономика в будущем.
"Я думаю, что люди все еще могут найти смысл и цель даже в мире, где большинство задач выполняет искусственный интеллект. Я думаю, что смысл приходит в первую очередь благодаря отношениям и связям, а не экономическому труду".
Амодей считает, что при правильном подходе сильный ИИ может привести к созданию лучшего мира, чем тот, который мы имеем сегодня, - мира, свободного от болезней, бедности и неравенства, мира, характеризующегося либеральной демократией и правами человека. Он признает, что реализация этого видения потребует огромных усилий и борьбы, а также согласованных действий отдельных людей, компаний, занимающихся разработкой ИИ, и политиков.
"Если это произойдет через 5-10 лет - победа над большинством болезней, рост биологических и когнитивных свобод, избавление миллиардов от нищеты и приобщение к новым технологиям, возрождение либеральной демократии и прав человека, - я думаю, каждый, кто это увидит, будет воздействие на них".
Заключение: В своей статье Амодей представляет убедительное видение того, как сильный ИИ может изменить человеческое общество. Он подчеркивает огромный потенциал сильного ИИ, но также указывает на проблемы и риски, которые с ним связаны. Он призывает к активным действиям, чтобы направить развитие ИИ на пользу всему человечеству.
Очень сложно организовать и вычитать статью, поэтому перед прочтением, пожалуйста, перейдите по тройной ссылке. Ниже представлен оригинал статьи.
Машины из Любящая благодать[01]
Как искусственный интеллект может изменить мир к лучшему
-Дарио Амодеи
Оригинальная ссылка: https://darioamodei.com/machines-of-loving-grace
Я много думаю и говорю о рисках сильного ИИ. Компания Anthropic, генеральным директором которой я являюсь, провела множество исследований по снижению этих рисков. Из-за этого люди иногда делают вывод, что я пессимист или "вершитель судеб" и что ИИ - это прежде всего плохо или опасно. Я вовсе так не считаю. На самом деле, одна из главных причин, по которой я фокусируюсь на рисках, заключается в том, что это единственное, что стоит между нами и радикально позитивным будущим, которое я вижу.Я думаю, что большинство людей недооценивают огромную пользу, которую может принести ИИ.Я думаю, что большинство людей недооценивают серьезность возможного риска.
В этой статье я попытался описать преимущества - то, как может выглядеть мир с сильным ИИ, если все пойдет хорошо. Конечно, никто не может знать будущее с уверенностью или точностью, а влияние сильного ИИ, вероятно, будет еще сложнее предсказать, чем прошлые технологические изменения, поэтому все это неизбежно будет состоять из домыслов. Но моя цель - хотя бы сделать обоснованные, полезные предположения, которые отражают то, что произойдет, даже если большинство деталей окажутся неверными. Я включил много деталей, в основном потому, что считаю, что конкретное видение - лучший способ продвинуть дискуссию вперед, чем весьма неоднозначное и абстрактное.
Однако сначала я хочу вкратце объяснить, почему мы с Антропиком мало говорили о преимуществах сильного ИИ и почему мы, вероятно, будем продолжать много говорить о рисках в целом. В частности, я сделал этот выбор из следующего желания:
- Максимальное использование рычагов.Фундаментальное развитие технологии ИИ и многие (не все) ее преимущества кажутся неизбежными (если только риск не испортит все) и в основе своей определяются мощными рыночными силами. Риски, с другой стороны, не предопределены заранее, и наши действия могут кардинально изменить вероятность их возникновения.
- Не допускайте, чтобы вас принимали за пропагандиста.Компании, занимающиеся разработкой искусственного интеллекта, рассказывают обо всех удивительных преимуществах ИИ, что может показаться пропагандой или попыткой отвлечь внимание от отрицательных сторон. Я также думаю, что, в принципе, слишком много времени проводить, "рассказывая о своей книге", вредно для души.
- Избегайте преувеличений.Меня часто раздражает то, как многие общественные деятели, занимающиеся ИИ-венчурами (не говоря уже о руководителях ИИ-компаний), говорят о мире после появления ИИ, как будто их миссия заключается в том, чтобы достичь его в одиночку, подобно пророку, ведущему свой народ к спасению. Я считаю, что опасно думать о компаниях как о тех, кто в одностороннем порядке формирует мир, и также опасно думать о реальных технических целях в религиозных терминах.
- Избегайте "научно-фантастического" багажа.Хотя я думаю, что большинство людей недооценивают преимущества сильного ИИ, те немногие, кто обсуждает радикальное будущее ИИ, часто делают это в слишком "научно-фантастическом" тоне (например, загрузка разума, освоение космоса или общий киберпанк). Я думаю, что это заставляет людей относиться к подобным заявлениям менее серьезно и придает им ощущение нереальности. Для ясности, вопрос не в том, возможны или вероятны описанные технологии (в основной статье это подробно обсуждается), а в том, что "вибрация" подразумевает кучу культурного багажа и невысказанных предположений о том, какое будущее желательно, как будут развиваться социальные проблемы, и т. д. социальные проблемы и так далее. В результате часто получается, что книги похожи на фантазии узкой субкультуры и отталкивают большинство людей.
Несмотря на все эти опасения, я считаю важным обсудить, как будет выглядеть лучший мир с сильным ИИ, стараясь при этом избежать вышеупомянутых подводных камней. На самом деле, я считаю, что жизненно важно иметь действительно вдохновляющее видение будущего, а не просто план борьбы с пожарами. Многие последствия сильного ИИ являются конфронтационными или опасными, но в конечном итоге мы должны бороться за них, за положительные результаты, в которых всем будет лучше, и за объединение людей, чтобы подняться над схваткой и ответить на вызовы будущего. Страх - это мотивирующий фактор, но его недостаточно: нам также нужна надежда.
Существует множество положительных областей применения мощного ИИ (включая робототехнику, производство, энергетику и т. д.), но я остановлюсь на нескольких, которые, на мой взгляд, имеют наибольший потенциал для непосредственного улучшения качества человеческой жизни. Пять категорий, которые интересуют меня больше всего:
- Биология и физическое здоровье
- Нейронаука и психическое здоровье
- Экономическое развитие и бедность
- Мир и управление
- Работа и смысл
Мои прогнозы будут радикальными по большинству стандартов (за исключением научно-фантастического видения "Сингулярности" [02]), но я говорю об этом из лучших побуждений. Все, что я скажу, легко может оказаться неверным (повторю свою мысль выше), но я, по крайней мере, пытаюсь основывать свои взгляды на полуаналитической оценке того, насколько сильно может ускориться прогресс в различных областях и что это означает на практике. Мне повезло, что у меня есть профессиональный опыт в биологии и нейронауках, а в области экономического развития я - сведущий дилетант, но я уверен, что совершу множество ошибок. Написав эту статью, я понял, что было бы полезно собрать группу экспертов в своих областях (биология, экономика, международные отношения и другие), чтобы написать более качественную и глубокую версию того, что я здесь написал. Лучше всего рассматривать мои усилия здесь как отправную точку для этой группы.
Основополагающие допущения и рамки
Чтобы сделать всю статью более точной и информированной, полезно уточнить, что мы подразумеваем под мощным ИИ (т. е. когда начнется отсчет 5-10 лет), и предоставить рамки для размышлений о последствиях такого ИИ, когда он появится.
Как будет выглядеть мощный ИИ (мне не нравится термин AGI)[03] и когда (или если) он появится, - это огромная тема сама по себе. Я открыто обсуждал эту тему и, возможно, когда-нибудь напишу о ней отдельный пост. Очевидно, что многие люди скептически относятся к тому, что мощный ИИ будет создан в ближайшее время, а некоторые даже сомневаются, что он вообще когда-либо будет создан. Я считаю, что он может появиться уже в 2026 году, хотя есть варианты, что это может занять больше времени. Но для целей этой статьи я хотел бы отложить эти вопросы в сторону, предположить, что он появится в разумные сроки, и сосредоточиться на том, что произойдет через 5-10 лет после этого. Я также хочу предположить, как будет выглядеть такая система, каковы будут ее возможности и как она будет взаимодействовать, хотя в этом вопросе возможны разногласия.
С помощью мощного ИИ я получаю модель ИИ - вероятно, формально похожую на современную LLM, хотя она может быть основана на другой архитектуре, может включать несколько взаимодействующих моделей и может обучаться разными способами - со следующими свойствами следующими свойствами:
- С точки зрения чистого интеллекта [04], он умнее большинства лауреатов Нобелевской премии в смежных областях - биологии, программировании, математике, инженерии, писательстве и т. д. Это означает, что он может доказывать нерешенные математические теоремы, писать очень хорошие романы, создавать сложные кодовые базы с нуля и т. д.
- Помимо того, что это просто "умная вещь, с которой вы разговариваете", он обладает всеми "интерфейсами", доступными для людей, работающих виртуально, включая текст, аудио, видео, управление мышью и клавиатурой, а также доступ в Интернет. Он может выполнять любые операции, коммуникации или телеоперации, которые обеспечивает этот интерфейс, включая действия в Интернете, давать или получать указания человеку или от него, заказывать материалы, руководить экспериментами, смотреть видео, снимать видео и так далее. И опять же, все эти задачи он выполняет с мастерством, превосходящим способности самых способных людей в мире.
- Это не просто пассивные ответы на вопросы; вместо этого можно давать задания, на выполнение которых уходят часы, дни или недели, а затем выполнять их как умный сотрудник, обращаясь за разъяснениями, когда это необходимо.
- У него нет физического воплощения (кроме жизни на экране компьютера), но он может управлять существующими физическими инструментами, роботами или лабораторным оборудованием с помощью компьютера; теоретически он может даже создавать роботов или оборудование для себя.
- Ресурсы, используемые для обучения модели, могут быть использованы для запуска миллионов ее экземпляров (что соответствует прогнозируемому размеру кластера в 2027 году), а сама модель может поглощать информацию и генерировать операции со скоростью, примерно в 10 раз превышающей человеческую [05]. Однако она может быть ограничена временем отклика физического мира или программного обеспечения, с которым она взаимодействует.
- Каждый из этих миллионов экземпляров мог бы работать независимо друг от друга над несвязанными задачами или, при желании, работать вместе, как люди, возможно, с различными подгруппами, тонко настроенными на выполнение определенных задач.
Мы можем назвать это "Гениальной нацией центров обработки данных".
Очевидно, что такая структура сможет быстро решать очень сложные проблемы, но нелегко понять, насколько быстро. Две "крайние" позиции кажутся мне ошибочными. Во-первых, можно подумать, что мир мгновенно преобразится ("сингулярность") за считанные секунды или дни, когда высший интеллект, опираясь на него, немедленно решит все возможные научные, инженерные и оперативные задачи. Проблема в том, что существуют реальные физические и практические ограничения, например, при создании аппаратуры или проведении биологических экспериментов. Даже новая нация гениев столкнется с этими ограничениями. Интеллект действительно очень силен, но это не волшебство для всех.
Во-вторых, и наоборот, вы можете полагать, что технологический прогресс насыщен или ограничен реальными данными или социальными факторами, так что рост интеллекта умнее человека будет очень незначительным [06]. На мой взгляд, это не менее невероятно - я могу придумать сотни научных или даже социальных проблем, где группа действительно умных людей могла бы значительно ускорить прогресс, особенно если бы они не ограничивались только анализом и могли бы воплощать свои идеи в реальном мире (что может сделать наша гипотетическая нация гениев, включая наставничество или помощь человеческим командам).
Я думаю, что истина, вероятно, представляет собой некую запутанную смесь этих двух крайностей, в зависимости от задачи и сферы деятельности, а также очень тонких деталей. Я думаю, нам нужны новые рамки, чтобы продуктивно думать об этих деталях.
Экономисты часто говорят о "факторах производства": таких, как труд, земля и капитал. Фраза "предельная отдача от труда/земли/капитала" отражает идею о том, что данный фактор может быть или не быть ограничивающим фактором в данной ситуации - например, ВВС нужны самолеты и пилоты, и найм большего числа пилотов не сильно поможет, если у вас нет самолетов. Больше пилотов не сильно поможет. Я считаю, что в эпоху ИИ мы должны говорить о "предельной выгоде интеллекта" [07] и пытаться понять, какие еще факторы дополняют интеллект и ограничивают его, когда интеллект очень высок. Мы не привыкли мыслить подобным образом, задаваясь вопросом: "Насколько повышение интеллекта помогает в решении этой задачи и в какие сроки?" -- Но это кажется правильным способом концептуализации мира с очень мощным ИИ.
Список факторов, которые, как я подозреваю, ограничивают или дополняют интеллект, включает в себя:
- Скорость внешнего мира. Интеллектуальным агентам необходимо взаимодействовать с миром, чтобы добиться результата, а также учиться [08]. Но мир движется так медленно. Клетки и животные работают с фиксированной скоростью, поэтому эксперименты с ними занимают определенное время, которое может быть невоспроизводимым. То же самое касается общения с людьми и нашей существующей программной инфраструктуры. Кроме того, в науке многие эксперименты обычно нужно проводить последовательно, причем каждый эксперимент учится или опирается на предыдущий. Все это означает, что может существовать несводимая минимальная скорость завершения крупного проекта, например разработки лекарства от рака, которая не может быть уменьшена даже при дальнейшем росте интеллекта.
- Спрос на данные. Иногда не хватает исходных данных, а в отсутствие данных больший интеллект не поможет. Современные физики частиц очень умны и разработали целый ряд теорий, но поскольку данные ускорителей частиц очень ограничены, им не хватает данных, чтобы выбрать одну из них. Возможно, обладая сверхинтеллектом, они не стали бы работать намного лучше - разве что ускорились бы, построив еще большие ускорители.
- Внутренняя сложность. Некоторые вещи настолько непредсказуемы или хаотичны по своей сути, что даже самый мощный ИИ не может предсказать или разгадать их лучше, чем современные люди или компьютеры. Например, даже очень мощный ИИ может предсказывать хаотические системы (такие как проблема трех тел) в целом лишь немного дольше, чем современные люди и компьютеры [09].
- Ограничения, связанные с людьми. Многие вещи невозможно сделать, не нарушая закон, не причиняя вреда людям и не разрушая общество. Согласованный ИИ не захочет делать такие вещи (а если у нас есть несогласованный ИИ, то мы возвращаемся к разговору о риске). Многие человеческие социальные структуры неэффективны или даже позитивно вредны, но их трудно изменить, соблюдая такие ограничения, как требования закона, готовность людей изменить свои привычки или поведение правительства. Технологические достижения, такие как ядерная энергетика, сверхзвуковые полеты и даже лифты, хорошо зарекомендовали себя с технологической точки зрения, но их влияние было резко снижено нормативными актами или неуместным страхом.
- физический закон. Это более очевидная версия первого пункта. Существуют законы физики, которые кажутся нерушимыми. Невозможно путешествовать быстрее скорости света. Пудинг не перемешивается сам по себе. В чипах может быть только столько транзисторов на квадратный сантиметр, прежде чем они станут ненадежными. Вычисления требуют минимального количества энергии на каждый стертый бит, что ограничивает плотность вычислений в мире.
Существует еще одно различие, основанное на шкале времени. Вещи, которые сложно ограничить в краткосрочной перспективе, могут быть более восприимчивы к интеллекту в долгосрочной перспективе. Например, интеллект может быть использован для разработки новой экспериментальной парадигмы, позволяющей изучать in vitro то, что раньше требовало экспериментов на живых животных, или для создания инструментов, необходимых для сбора новых данных (например, более крупных ускорителей частиц), или (в рамках этических ограничений) для поиска способов обойти человеческие ограничения (например, помочь улучшить систему клинических испытаний, помочь создать новые юрисдикции, где клинические испытания менее забюрократизированы). или улучшить саму науку, чтобы клинические испытания на людях стали менее необходимыми или более дешевыми).
Поэтому мы должны представить себе картину, в которой интеллект изначально сильно уступает другим факторам производства, но со временем сам интеллект все больше обходит другие факторы, даже если они никогда не исчезают полностью (некоторые вещи, такие как законы физики, абсолютны) [10]. Ключевой вопрос заключается в том, как быстро все происходит и в каком порядке.
Исходя из вышеизложенных рамок, я попытаюсь ответить на вопросы в пяти областях, упомянутых во введении.
1. Биология и здоровье
Биология - это, пожалуй, та область, в которой научный прогресс имеет наибольший потенциал для прямого и окончательного улучшения качества человеческой жизни. Некоторые из самых древних человеческих болезней (например, оспа) были окончательно побеждены в прошлом веке, но многие из них все еще существуют, и их преодоление стало бы большим гуманитарным достижением. Даже не ограничиваясь лечением болезней, биологические науки могли бы в принципе улучшить качество базового уровня здоровья человека, увеличив продолжительность его здоровой жизни, повысив контроль и свободу над нашими собственными биологическими процессами и решив повседневные проблемы, которые мы сегодня считаем неизменной частью человеческого существования.
Если говорить на языке ограничений предыдущего раздела, то основными проблемами для применения интеллекта непосредственно в биологии являются данные, скорость физического мира и присущая ему сложность (более того, все три фактора взаимосвязаны). Человеческие ограничения также вступают в игру на более позднем этапе, когда речь идет о клинических испытаниях. Давайте рассмотрим эти проблемы по порядку.
Эксперименты с клетками, животными и даже химические процессы ограничены скоростью физического мира: многие биологические протоколы предполагают культивирование бактерий или других клеток или просто ожидание химической реакции, которая иногда занимает дни или даже недели, и нет очевидного способа ускорить ее. Эксперименты на животных могут занимать месяцы (или даже больше), а эксперименты на людях часто занимают годы (или даже десятилетия для долгосрочных исследований результатов). С этим в некоторой степени связан тот факт, что данных часто не хватает - не по количеству, а по качеству: всегда не хватает четких, однозначных данных, изолирующих интересующий биологический эффект от других 10 000 происходящих вещей, или причинного вмешательства в данный процесс, или прямого измерения определенных эффектов (а не каким-то косвенным или шумным способом). Некий косвенный или шумный способ выведения следствий). Даже большие количественные молекулярные данные, такие как данные протеомики, которые я собираю при работе с масс-спектрометрией, зашумлены и многое упускают (в каких типах клеток находятся эти белки? В какой части клетки? На какой стадии клеточного цикла?) .
Вина за проблему с данными частично лежит на сложности, присущей препаратам: если вы когда-нибудь смотрели на графики биохимии человеческого метаболизма, то знаете, что очень трудно выделить влияние любой части этой сложной системы, не говоря уже о том, чтобы вмешаться в нее точным или предсказуемым образом. Наконец, помимо времени, необходимого для проведения экспериментов на людях, реальные клинические испытания сопряжены с множеством бюрократических и нормативных требований, которые (по мнению многих, в том числе и меня) рассматриваются как ненужное дополнительное время и задержки.
Учитывая это, многие биологи скептически относятся к ценности ИИ и "больших данных" в биологии. Исторически сложилось так, что математики, компьютерщики и физики применяли свои навыки в биологии в течение последних 30 лет со значительным успехом, но без достижения действительно преобразующего воздействия, на которое первоначально надеялись. Некоторый скептицизм был снижен благодаря таким крупным и революционным прорывам, как AlphaFold (который только что заслуженно получил Нобелевскую премию по химии) и AlphaProteo [11], но все еще существует мнение, что ИИ был (и остается) полезным только в ограниченном числе ситуаций. Распространенная формулировка: "ИИ может лучше анализировать данные, но он не может создавать больше данных или улучшать их качество. Мусор на входе, мусор на выходе".
Если наши основные предположения о прогрессе ИИ верны, то правильнее думать об ИИ не как о методе анализа данных, а как о виртуальном биологе, который выполняет "все" задачи биологов, включая разработку и проведение экспериментов в реальном мире (либо управляя лабораторными роботами, либо просто указывая людям, какие эксперименты проводить, - как это делают ведущие исследователи для своих аспирантов и т. д.). В этом случае, как и в случае с ведущими исследователями, ведущие научные сотрудники указывают своим аспирантам, какие эксперименты проводить), изобретать новые биологические методы или способы измерения и т.д. Именно ускорив весь процесс исследования, ИИ может по-настоящему ускорить развитие биологии.Я хочу повторить это, потому что это самое распространенное заблуждение, которое я получаю, когда говорю о способности ИИ изменить биологию: я не говорю об ИИ как об инструменте для простого анализа данных. Исходя из определения мощного ИИ, приведенного в начале статьи, я говорю об использовании ИИ для выполнения, направления и улучшения практически всех действий биологов.
Если говорить более конкретно о том, откуда, на мой взгляд, может взяться ускорение, то значительная часть прогресса в биологии происходит благодаря действительно небольшому числу открытий, обычно связанных с инструментами или методами, которые позволяют осуществлять точные, но общие или программируемые вмешательства в биологические системы [12]. Таких открытий может быть около 1 в год, а в целом они, возможно, определяют более 501 TP3T биологического прогресса. Мощным эти открытия делает то, что они снижают присущую им сложность и ограниченность данных и напрямую улучшают наше понимание и контроль над биологическими процессами. Некоторые из открытий, сделанных за десятилетия, позволили нам получить базовое научное понимание биологии и послужили движущей силой многих самых мощных терапевтических подходов.
Некоторые примеры включают:
- CRISPR - технология, позволяющая в режиме реального времени редактировать любой ген в живом организме (заменять произвольную последовательность генов на любую другую произвольную последовательность). С момента разработки технологии ее постоянно совершенствовали, чтобы нацелить на конкретные типы клеток, повысить точность и уменьшить количество редактирования ошибочных генов - все это необходимо для безопасного использования в человеческом организме.
- Различные виды микроскопов для наблюдения за происходящим на точном уровне: современные оптические микроскопы (с различными техниками флуоресценции, специальной оптикой и т.д.), электронные микроскопы, атомно-силовые микроскопы и т.д.
- Секвенирование и синтез генома, стоимость которых за последние несколько десятилетий снизилась на несколько порядков.
- Оптогенетическая технология, при которой нейроны можно заставить гореть под воздействием света.
- В принципе, мРНК-вакцины позволяют создать вакцину против чего угодно, а затем быстро адаптировать ее (мРНК-вакцины, конечно, стали известны во время COVID).
- Клеточная терапия, подобная CAR-T, позволяет вывести иммунные клетки из организма и "перепрограммировать" их на атаку чего угодно в принципе.
- Концептуальные открытия, такие как теория болезней микробов и связь между иммунной системой и раком [13].
Я взял на себя труд перечислить все эти техники, потому что хочу сделать ключевое утверждение о них:Я думаю, что скорость этих открытий можно было бы увеличить в 10 и более раз, если бы было больше талантливых и творческих исследователей.Или, другими словами.Я думаю, что эти находки хорошо окупаются для разведки.И все остальное в биологии и медицине в основном следует за ними.
Почему я так думаю? Потому что мы должны привыкнуть задавать некоторые вопросы при попытке определить "отдачу от интеллекта". Во-первых, эти открытия обычно совершаются очень небольшим числом исследователей, часто неоднократно одной и той же группой людей, что говорит о мастерстве, а не о случайном поиске (последнее может говорить о том, что длительные эксперименты являются ограничивающим фактором). Во-вторых, часто они могут быть сделаны "на годы раньше своего времени": например, CRISPR, естественный компонент иммунной системы бактерий, был известен с 1980-х годов, но прошло еще 25 лет, прежде чем люди поняли, что его можно использовать для редактирования генов в целом. Кроме того, их реализация затягивалась на долгие годы из-за отсутствия поддержки перспективных направлений со стороны научного сообщества (см. профиль изобретателя мРНК-вакцины; подобных историй множество). В-третьих, успешные проекты часто оказываются не массовыми, а периферийными или "последователями", которые изначально не рассматривались как перспективные. Это говорит о том, что не только масштабное объединение ресурсов способствует открытиям, но и изобретательность.
Наконец, хотя некоторые из этих открытий "серийно зависимы" (нужно сначала сделать открытие А, чтобы иметь инструменты или знания для открытия Б), что опять же может привести к задержке эксперимента, многие, возможно, большинство, являются независимыми, то есть многие из них могут быть сделаны одновременно. -Но многие, возможно, большинство, являются независимыми, что означает, что многие из них могут быть сделаны одновременно. Оба эти факта, а также мой общий опыт биолога, убедительно свидетельствуют о том, что если бы ученые были умнее и лучше умели устанавливать связи между огромным количеством биологических знаний, которыми располагает человек (опять же, рассмотрим пример CRISPR), то сотни таких открытий только и ждали бы своего часа. Успех AlphaFold/AlphaProteo в решении важных проблем более эффективно, чем это может сделать человек. Успех AlphaFold/AlphaProteo в решении важных проблем более эффективно, чем это может сделать человек, является доказательством принципа (хотя и с помощью узких инструментов в узкой области), который должен указать путь вперед.
Поэтому я подозреваю, что мощный искусственный интеллект может увеличить скорость этих открытий как минимум в 10 раз, обеспечив нам следующие 50-100 лет биологического прогресса за 5-10 лет. [14] Почему не в 100 раз? Может быть, это и возможно, но вот сериал
Зависимость и время экспериментов становятся важными: чтобы получить 100 лет прогресса за 1 год, нужно многое сделать правильно с первого раза, включая такие вещи, как эксперименты на животных и создание микроскопов или дорогостоящих лабораторий. Я не против (возможно, абсурдно звучащей) идеи, что мы можем получить 1000 лет прогресса за 5-10 лет, но я очень скептически отношусь к тому, что мы получим 100 лет за 1 год. В качестве альтернативы я думаю, что существует неизбежная постоянная задержка: эксперименты и аппаратура разработаны с определенной "задержкой" и требуют определенного количества "несводимых" итераций, чтобы узнать вещи, которые невозможно логически вывести. Но в дополнение к этому [15] может существовать массивный параллелизм.
А как же клинические испытания? При всей бюрократии и медлительности, связанной с ними, правда заключается в том, что большая часть их медлительности в конечном итоге обусловлена необходимостью строгого анализа препаратов, которые едва работают или работают нечетко. Это, к сожалению, относится к большинству современных методов лечения: средний препарат от рака увеличивает срок выживания на несколько месяцев, но при этом имеет значительные побочные эффекты, которые необходимо тщательно оценивать (аналогичная история с лекарствами от болезни Альцгеймера). Это приводит к огромным исследованиям (чтобы получить статистическую мощность) и сложным компромиссам, а регулирующие органы обычно не умеют принимать решения, опять же из-за бюрократии и сложности конкурирующих интересов.
Когда что-то действительно работает, дело идет гораздо быстрее: существуют ускоренные пути утверждения, и если эффект большой, то утверждение проходит гораздо легче. МРНК-вакцины для COVID были утверждены за 9 месяцев - гораздо быстрее, чем обычно. Тем не менее, даже при таких условиях клинические испытания проходили слишком медленно - вероятно, мРНК-вакцина должна была быть одобрена примерно через 2 месяца. Но такие задержки (~1 год в целом для лекарств) вполне совместимы с массовым параллелизмом и необходимостью нескольких, но не слишком больших итераций ("несколько попыток"), что может привести к фундаментальному сдвигу через 5-10 лет. Более оптимистично то, что биологическая наука на основе ИИ может снизить необходимость итераций в клинических испытаниях за счет разработки более совершенных моделей (или даже симуляций) экспериментов на животных и клетках, которые будут точнее предсказывать, что произойдет на людях. Это будет особенно важно при разработке лекарств, направленных на процесс старения, который занимает десятилетия и для которого нам нужен более быстрый итерационный цикл.
Наконец, говоря о клинических испытаниях и социальных барьерах, стоит отметить, что биомедицинские инновации имеют необычайно большой послужной список успешного внедрения в некоторых аспектах по сравнению с другими технологиями [16]. Как отмечалось во введении, многие из этих технологий, несмотря на хорошую техническую оснащенность, сталкиваются с социальными барьерами. Это может свидетельствовать о пессимистичном взгляде на то, чего может достичь ИИ. Однако биомедицина уникальна тем, что, несмотря на слишком громоздкий процесс разработки лекарств, после их создания они часто успешно внедряются и используются.
Вкратце, мой основной прогноз заключается в том, что биология и медицина, управляемые ИИ, позволят нам за 5-10 лет сжать те достижения, которые биологи-люди сделают в течение следующих 50-100 лет. Я называю это "сжатым 21-м веком": идея о том, что все биологические и медицинские достижения, которые мы сделаем в течение 21-го века, будут достигнуты в течение нескольких лет после разработки мощного ИИ.
Хотя предсказать, что сможет сделать мощный ИИ в ближайшие несколько лет, по своей сути сложно и спекулятивно, есть определенная конкретика в вопросе "что смогут сделать люди в ближайшие 100 лет без внешних сил". Простое рассмотрение того, чего мы достигли в XX веке, или экстраполяция первых 20 лет XXI века, или вопрос о том, что принесут нам "10 CRISPR и 50 CAR-T", - это практичные и обоснованные способы оценить общий уровень прогресса, который мы можем ожидать от мощного ИИ.
Ниже я попытался перечислить, чего мы можем ожидать. Это не основано на какой-либо строгой методологии и почти наверняка окажется неверным в деталях, но это попытка передать общий уровень радикализма, который нам следует ожидать:
- Надежная профилактика и лечение практически всех природных инфекционных заболеваний[17].Учитывая огромные успехи в борьбе с инфекционными заболеваниями в XX веке, нет ничего радикального в том, чтобы представить себе, что мы сможем "довести дело до конца" в сжатом XXI веке. мРНК-вакцины и подобные технологии уже указывают на возможность создания "вакцины для всего". Вопрос о том, зависят ли инфекционные заболевания от бедности и неравенства в ЦЕЛОМ (а не только в некоторых местах), обсуждается в разделе 3.
- Устранение раковых заболеваний.За последние несколько десятилетий смертность от рака снижалась примерно на 2% в год; таким образом, при нынешних темпах развития человеческой науки мы находимся на пути к уничтожению большинства видов рака в XXI веке. Некоторые подтипы уже излечены в большом количестве (например, некоторые виды лейкемии с помощью CAR-T-терапии), и я еще больше рад появлению очень избирательных препаратов, которые будут воздействовать на ранние стадии рака и останавливать его рост.ИИ также позволит очень точно подбирать схемы лечения с учетом индивидуальных особенностей генома рака - то, что, возможно, и возможно, но очень дорого с точки зрения затрат. возможно, но очень дорого с точки зрения времени и человеческого опыта, а ИИ должен позволить нам увеличить масштабы.
- Очень эффективная профилактика и эффективное лечение генетических заболеваний.Улучшенный скрининг эмбрионов может позволить нам предотвратить большинство генетических заболеваний, а более безопасные и надежные CRISPR-потомки могут вылечить большинство генетических заболеваний в существующих популяциях. Системные заболевания, которые затрагивают большинство клеток, могут оказаться последними неподатливыми молекулами.
- Профилактика болезни Альцгеймера.Мы с трудом выяснили, что вызывает болезнь Альцгеймера (она связана с бета-амилоидом, но на самом деле детали очень сложны). Похоже, эту проблему можно решить с помощью более совершенных инструментов измерения, позволяющих изолировать биологические эффекты; поэтому я оптимистично настроен на то, что ИИ решит эту проблему. Когда мы действительно поймем, что происходит, велика вероятность, что болезнь можно будет предотвратить с помощью относительно простых мер. Тем не менее, уже существующий ущерб от болезни Альцгеймера будет трудно обратить вспять.
- Улучшение лечения большинства других заболеваний.В эту категорию входят и другие заболевания, включая диабет, ожирение, болезни сердца, аутоиммунные заболевания и т. д. С большинством из этих болезней бороться "проще", чем с раком и болезнью Альцгеймера. С большинством из этих болезней бороться "проще", чем с раком и болезнью Альцгеймера, и во многих случаях они уже переживают резкое снижение. Например, смертность от сердечно-сосудистых заболеваний снизилась более чем на 501 TP3T, а простые вмешательства, такие как агонисты GLP-1, позволили добиться значительных успехов в борьбе с ожирением и диабетом.
- Биологическая свобода.За последние 70 лет мы достигли прогресса в контрацепции, регулировании рождаемости, контроле веса и так далее, но я думаю, что биология, ускоренная ИИ, значительно расширит диапазон возможного: вес, внешность, репродукция и другие биологические процессы будут полностью под контролем людей. Мы будем говорить об этом под заголовком "биологическая свобода", что означает, что каждый человек должен иметь право выбирать, кем ему быть, и проживать свою жизнь так, как ему больше всего нравится. Конечно, возникают вопросы о глобальном равном доступе; они обсуждаются в разделе 3.
- Удвоение продолжительности жизни человека[18].Это может показаться радикальным, но в XX веке средняя продолжительность жизни увеличилась почти в три раза (с 40 до 75 лет), так что "сжатый XXI век", когда продолжительность жизни снова удвоится до 150 лет, является "трендом". Очевидно, что меры, необходимые для замедления фактического процесса старения, отличаются от тех, которые требовались для предотвращения преждевременной смерти от болезней (в основном у детей) в прошлом веке, но масштабы изменений не являются беспрецедентными [19]. В частности, уже существует ряд препаратов, которые увеличивают максимальную продолжительность жизни крыс на 25-501 TP3T при ограниченных побочных эффектах. Некоторые животные (например, некоторые виды черепах) живут 200 лет, так что люди явно не достигли теоретического верхнего предела. По крайней мере, наиболее востребованными могут быть надежные, менее подверженные манипуляциям биомаркеры человеческого старения, поскольку это позволит быстро итерационно проводить экспериментальные и клинические испытания. Когда продолжительность человеческой жизни достигнет 150 лет, мы, возможно, сможем достичь "скорости бегства" и выиграть достаточно времени, чтобы позволить большинству ныне живущих людей жить столько, сколько они хотят, хотя нет никаких гарантий, что это биологически возможно.
Стоит взглянуть на этот список и задуматься о том, насколько изменится мир, если все это будет реализовано через 7-12 лет (что укладывается в позитивную версию временной шкалы ИИ). Несомненно, это был бы невообразимый гуманистический триумф, разом устраняющий большинство катастроф, которые терзали человечество на протяжении тысячелетий. Многие из моих друзей и коллег растят детей, и когда они вырастут, я надеюсь, что любое упоминание о болезнях будет звучать для них так же, как для нас цинга, оспа или бубонная чума. Это поколение также получит больше биологической свободы и самовыражения и, если повезет, сможет жить столько, сколько захочет.
Трудно переоценить, насколько неожиданными окажутся эти изменения для всех (за исключением небольших сообществ, предвидящих появление мощного ИИ). Например, в Соединенных Штатах тысячи экономистов и экспертов в области политики в настоящее время обсуждают, как сохранить платежеспособность программ Social Security и Medicare и, в более широком смысле, как сократить расходы на здравоохранение (которые в значительной степени определяются людьми старше 70 лет и, в частности, теми, кто страдает неизлечимыми заболеваниями, такими как рак). Если все это произойдет, ситуация для этих программ может радикально улучшиться [20], поскольку соотношение трудоспособного и пенсионного населения резко изменится. Несомненно, на смену этим проблемам придут другие, например, как обеспечить повсеместный доступ к новым технологиям, но стоит задуматься о том, насколько сильно изменится мир, даже если биология окажется единственной областью, которой удастся ускориться.
2. Нейронаука и разум
В предыдущем разделе я сосредоточился на болезнях тела и биологии в целом и не рассматривал нейронауки и психическое здоровье. Но нейронаука - это субдисциплина биологии, а психическое здоровье так же важно, как и физическое. На самом деле, если уж на то пошло, психическое здоровье оказывает более прямое влияние на благополучие человека, чем физическое. Сотни миллионов людей имеют очень низкое качество жизни из-за таких проблем, как зависимость, депрессия, шизофрения, низкофункциональный аутизм, посттравматическое стрессовое расстройство, психопатия[21] или умственная отсталость. Еще миллиарды людей борются с повседневными проблемами, которые часто можно трактовать как более мягкие версии этих серьезных клинических расстройств. И, как и в биологии в целом, может оказаться возможным выйти за рамки решения проблем, чтобы улучшить базовое качество человеческого опыта.
Базовая схема, которую я описал для биологии, в равной степени применима и к нейронаукам. Эта область движима горсткой открытий, связанных с измерениями или точными инструментами вмешательства - в приведенном выше списке оптогенетика является открытием в нейронауке, а недавние достижения в CLARITY и расширительной микроскопии - достижениями в том же направлении, в дополнение к ряду общих методов клеточной биологии, непосредственно применимых к нейронауке. Я думаю, что темпы этих достижений будут также ускорены ИИ, поэтому схема "100 лет прогресса за 5-10 лет" применима к нейронауке так же, как и к биологии, и по тем же причинам. Как и в биологии, прогресс в нейронауках в XX веке был колоссальным - например, до 1950-х годов мы даже не понимали, как и почему работают нейроны. Поэтому кажется разумным, что нейронауки, ускоренные ИИ, добьются быстрого прогресса уже через несколько лет.
К этой основной картине следует добавить, что кое-что из того, что мы узнали (или узнаем) об искусственном интеллекте за последние несколько лет, может помочь развитию нейронаук, даже если они по-прежнему будут проводиться только людьми. Очевидным примером является интерпретируемость: хотя биологические нейроны якобы работают совсем иначе, чем искусственные (они общаются с помощью спайков и частоты спайков, поэтому в них есть временной элемент, которого нет в искусственных нейронах, и множество деталей, связанных с клеточной физиологией и нейротрансмиттерами, которые сильно изменяют их работу), вопрос о том, "как распределенные, обученные простые клеточные сети выполняют комбинаторные линейные/нелинейные операции для совместного выполнения важных вычислений" - это то же самое, и я сильно подозреваю, что детали коммуникации отдельных нейронов будут абстрагированы от большинства интересных вопросов о вычислениях и схемах [22]. В качестве примера можно привести недавнее открытие исследователями интерпретируемости систем ИИ вычислительных механизмов в мозге мыши.
Проводить эксперименты с искусственными нейронными сетями гораздо проще, чем с реальными (для этого обычно приходится резать мозг животных), поэтому интерпретируемость может стать инструментом для улучшения нашего понимания нейронауки. Кроме того, мощный искусственный интеллект сам сможет разработать и применить этот инструмент лучше, чем человек.
Конечно, помимо интерпретируемости, то, что мы узнали из ИИ о том, как интеллектуальные системы обучаются, должно (хотя я не уверен, что это произошло) вызвать революцию в нейробиологии.
Когда я работал в области нейронаук, многие люди уделяли особое внимание вопросам обучения, которые сейчас я бы назвал неправильными, потому что понятие "масштабные допущения/болезненные уроки" еще не возникло. Идея о том, что простые объективные функции в сочетании с большими объемами данных могут приводить к невероятно сложному поведению, сделала более интересным понимание объективных функций и архитектурных предубеждений, а не деталей срочных вычислений. В последние годы я не очень внимательно следил за развитием этой области, но у меня есть смутное ощущение, что вычислительные нейробиологи не до конца усвоили этот урок. Мое отношение к гипотезе масштаба всегда было "ага - это высокоуровневое объяснение того, как работает интеллект и как он так легко эволюционирует", но я не думаю, что это мнение среднего нейробиолога, а в области ИИ гипотеза масштаба служит в качестве "секрет интеллекта" даже не полностью принята.
Я думаю, что нейробиологам следует объединить это фундаментальное понимание с особенностями человеческого мозга (биофизические ограничения, эволюционная история, топология, детали моторных и сенсорных входов/выходов) в попытке решить ключевые загадки нейронауки. Возможно, что-то из этого и получится, но я не думаю, что этого достаточно, и нейробиологи с искусственным интеллектом смогут более эффективно использовать эту перспективу для ускорения прогресса.
Я предполагаю, что ИИ ускорит прогресс в области нейронаук четырьмя различными способами, каждый из которых в совокупности может привести к излечению большинства психических заболеваний и улучшению функционирования организма:
- Традиционная молекулярная биология, химия и генетика.По сути, это та же общая биология, что и в разделе 1, и ИИ может ускорить ее развитие с помощью тех же механизмов.
Существует множество лекарств, которые модулируют нейротрансмиттеры, изменяя работу мозга, влияя на бдительность или восприятие, изменяя настроение и т. д. ИИ может помочь нам изобрести еще больше. ИИ также может ускорить исследования генетических основ психических заболеваний.
- Тонкие неврологические измерения и вмешательства.Это возможность измерить, что делают многие отдельные нейроны или нейронные цепи, и вмешаться, чтобы изменить их поведение. Оптогенетика и технологические нейронные зонды - это методы, позволяющие одновременно проводить измерения и вмешиваться в работу живых организмов, а некоторые очень продвинутые методы (например, молекулярная запись паттернов стрельбы большого количества отдельных нейронов) также были предложены и в принципе представляются возможными.
- Продвинутая вычислительная нейронаука.Как отмечалось выше, специфические знания современного ИИ и The Whole могут быть успешно применены к проблемам системной нейронауки, включая потенциальное раскрытие истинных причин и динамики сложных расстройств, таких как психоз или расстройства настроения.
- Поведенческие вмешательства.Поскольку основное внимание уделяется биологическим аспектам нейронауки, я не слишком часто упоминал об этом, но психиатрия и психология, безусловно, разработали широкий спектр поведенческих вмешательств в XX веке; ИИ, безусловно, может ускорить эти вмешательства, как в плане разработки новых подходов, так и в плане помощи пациентам в соблюдении существующих. В более широком смысле понятие "ИИ-тренер", который всегда помогает вам быть лучшим собой, изучает ваши взаимодействия и помогает вам научиться быть более эффективным, кажется очень перспективным.
Я думаю, что эти четыре направления прогресса, работая вместе, позволят, подобно борьбе с физическими болезнями, вылечить или предотвратить большинство психических заболеваний в течение следующих 100 лет - а значит, вероятно, в течение 5-10 лет после ускорения ИИ. В частности, я предполагаю следующее:
- Большинство психических заболеваний можно вылечить.Я не специалист по психическим расстройствам (я занимаюсь нейронауками, создавая зонды для изучения небольших групп нейронов), но я подозреваю, что такие расстройства, как посттравматическое стрессовое расстройство, депрессия, шизофрения, зависимость и т. д., можно выяснить и очень эффективно лечить с помощью некоторой комбинации четырех вышеперечисленных направлений. Ответ может быть таким: "что-то не так биохимически" (хотя это может быть очень сложно) и "что-то не так с нейронной сетью, на высоком уровне". То есть это проблема системной нейронауки - хотя это не отменяет влияния поведенческих вмешательств, о которых говорилось выше. Инструменты для измерения и вмешательства в организм человека в естественных условиях, похоже, приведут к быстрой итерации и прогрессу.
- Очень "структурная" ситуация может быть сложнее, но не невозможна.Есть некоторые свидетельства того, что психопатия связана с выраженными нейроанатомическими различиями - некоторые области мозга у психопатов просто меньше или менее развиты. Считается также, что психопатам с раннего возраста не хватает эмпатии; возможно, так было всегда, независимо от различий в их мозге. То же самое может относиться к некоторым видам умственной отсталости и, возможно, другим заболеваниям. Перепрограммирование мозга звучит сложно, но, похоже, это задача с высокой отдачей для интеллекта. Возможно, существуют способы перевести мозг взрослого человека в более раннее или более пластичное состояние, чтобы его можно было переделать. Я очень сомневаюсь в этом, но инстинкт заставляет меня с оптимизмом смотреть на то, что ИИ может изобрести в этой области.
- Эффективная генетическая профилактика психоза, по-видимому, возможна.Большинство психических расстройств частично наследуется, и геномные исследования ассоциаций начинают добиваться успехов в выявлении сопутствующих факторов, которых обычно множество. Предотвращение большинства этих расстройств возможно с помощью эмбрионального скрининга, как и в случае с физическими заболеваниями. Одно отличие заключается в том, что психические заболевания чаще всего носят полигенный характер (в них участвует множество генов), поэтому существует риск неосознанного отбора положительных черт, связанных с заболеванием, в силу его сложности. Любопытно, что исследования GWAS последних лет, похоже, указывают на то, что эти корреляции могут быть завышены. В любом случае, нейронаука с ускорением ИИ может помочь нам решить эти проблемы. Конечно, скрининг эмбрионов на наличие сложных признаков поднимает ряд социальных проблем и будет вызывать споры, хотя я полагаю, что большинство людей поддержат скрининг на наличие тяжелых или инвалидизирующих психических расстройств.
- Мы не верим, что повседневные проблемы клинических заболеваний также будут решены.У большинства из нас есть повседневные психологические проблемы, которые обычно не рассматриваются как клинические заболевания. Некоторые люди склонны к гневу, другие испытывают трудности с концентрацией внимания или часто хотят спать, третьи испытывают страх или тревогу, или плохо реагируют на перемены. Сегодня существуют препараты, помогающие, например, повысить бдительность или концентрацию (кофеин, модафинил, риталин), но, как и во многих других областях, возможностей может быть больше. Возможно, существует еще много подобных препаратов, которые еще предстоит открыть, и могут появиться совершенно новые способы воздействия, такие как направленная световая стимуляция (см. оптогенетику выше) или магнитные поля. Учитывая, сколько лекарств мы разработали в XX веке для регулирования когнитивных функций и эмоциональных состояний, я с большим оптимизмом смотрю на "сжатый XXI век", в котором каждый сможет заставить свой мозг работать лучше и получать больше удовольствия от повседневной жизни.
- Базовый опыт человека может стать лучше.Если пойти еще дальше, то многие люди переживают необыкновенные моменты откровения, творческого вдохновения, сострадания, удовлетворения, трансцендентности, любви, красоты или медитативного покоя. Характер и частота этих переживаний варьируются от человека к человеку, в разное время и иногда могут быть вызваны различными лекарствами (хотя часто с побочными эффектами). Все это говорит о том, что "пространство возможных переживаний" очень широко и что жизнь большего числа людей может состоять из таких необычных моментов. Кроме того, это может улучшить различные когнитивные функции. Это может быть нейронаучной версией "биологической свободы" или "продления жизни".
Тема, которая часто всплывает в научной фантастике, но которую я намеренно не обсуждаю здесь, - это идея "загрузки сознания", захвата паттернов и динамики человеческого мозга и воплощения их в программном обеспечении. Эта тема могла бы стать предметом отдельной статьи, но вкратце я отвечу так: хотя я считаю, что загрузка сознания в принципе возможна, на практике она сталкивается со значительными техническими и социальными проблемами, которые, даже при наличии мощного ИИ, могут вывести ее за пределы 5-10-летнего периода, о котором мы говорим.
Одним словом, нейронаука, ускоренная ИИ, может значительно улучшить лечение, возможно, даже излечить большинство психических заболеваний, а также значительно расширить "когнитивную и духовную свободу" и когнитивные и эмоциональные возможности человека. Это будет так же радикально, как и улучшение физического здоровья, описанное в разделе 1. Возможно, внешне мир не будет выглядеть существенно иначе, но мир человеческого опыта станет лучше, гуманнее и предоставит больше возможностей для самореализации. Я также подозреваю, что улучшение психического здоровья смягчило бы многие другие социальные проблемы, включая те, которые кажутся политическими или экономическими.
3. Экономическое развитие и бедность
Первые два раздела посвящены новым технологиям ГООНВР, позволяющим лечить болезни и улучшать качество человеческой жизни. Однако с гуманитарной точки зрения возникает очевидный вопрос: "А все ли будут иметь доступ к этим технологиям?"
Одно дело - разработать лекарство от болезни, другое - искоренить ее во всем мире. В более широком смысле многие существующие меры по охране здоровья еще предстоит применить в других частях мира, и то же самое часто можно сказать о технологических усовершенствованиях (не связанных со здравоохранением). Другими словами, уровень жизни во многих частях мира по-прежнему крайне низок: ВВП на душу населения в странах Африки к югу от Сахары составляет около 2000 долларов, в то время как в США - около 75 000 долларов. Если ИИ еще больше увеличит экономический рост и качество жизни в развитых странах, но при этом мало чем поможет развивающимся, мы должны рассматривать это как ужасный моральный провал и пятно на настоящих гуманитарных победах, о которых говорилось в предыдущих двух разделах. В идеале мощный ИИ должен помочь развивающемуся миру "догнать" развитый, даже если он произведет революцию в последнем.
Я не так уверен в том, что ИИ сможет изобрести базовую технологию, которая решит проблемы неравенства и экономического роста, как в том, что он это сделает, учитывая, что технологии имеют значительно более высокую отдачу от интеллекта (включая способность работать со сложностью и недостатком данных), тогда как экономика связана с большим количеством ограничений со стороны людей и с большой сложностью, присущей ей. Я несколько скептически отношусь к тому, что ИИ может решить знаменитую "проблему социалистических вычислений" [23], и даже если бы он мог это сделать, я не думаю, что правительства будут (или должны) доверять свою экономическую политику такому существу. Есть также вопросы о том, как убедить людей принять лечение, которое эффективно, но к которому они могут относиться скептически.
Проблемы, с которыми сталкиваются развивающиеся страны, усугубляются повсеместной коррупцией как в государственном, так и в частном секторе. Коррупция создает порочный круг: она усугубляет бедность, которая, в свою очередь, порождает еще большую коррупцию. Программы экономического развития, основанные на искусственном интеллекте, должны учитывать коррупцию, слабость институтов и другие сугубо человеческие проблемы.
Тем не менее, я вижу явные причины для оптимизма. Болезни были искоренены, многие страны перешли от бедности к богатству, и очевидно, что решения, связанные с этими задачами, дают высокую отдачу от интеллекта (несмотря на человеческие ограничения и сложность), так что ИИ может быть способен выполнять их лучше, чем это делается сейчас. Кроме того, могут существовать целенаправленные меры, позволяющие обойти человеческие ограничения, и ИИ может сосредоточиться на них. Что еще более важно, мы должны попытаться. И компании, занимающиеся разработкой ИИ, и политики в развитых странах должны внести свой вклад в то, чтобы развивающиеся страны не остались в стороне; моральный императив слишком велик. Поэтому в этом разделе я продолжу приводить доводы в пользу оптимизма, но помните, что успех не гарантирован и зависит от наших коллективных усилий.
Ниже я рассуждаю о том, как, по моему мнению, будет выглядеть развивающийся мир через 5-10 лет после создания мощного ИИ:
- Распределение медицинских вмешательств.Наиболее оптимистично я отношусь к распределению медицинских мероприятий по всему миру. Болезни были практически искоренены благодаря кампаниям "сверху вниз": оспа была полностью ликвидирована в 1970-х годах, а полиомиелит и болезнь морских червей практически искоренены с менее чем 100 случаями в год. Математически сложное эпидемиологическое моделирование играет активную роль в кампаниях по искоренению болезней, и представляется весьма вероятным, что более умные, чем человек, системы искусственного интеллекта смогут справиться с этой задачей лучше, чем люди. Логистика распространения также может быть значительно оптимизирована. Будучи одним из первых доноров GiveWell, я понял, что некоторые благотворительные организации в сфере здравоохранения более эффективны, чем другие; надеюсь, что усилия, ускоренные ИИ, будут еще более эффективными. Кроме того, некоторые биологические достижения фактически упростили логистику распространения: например, малярию трудно искоренить, потому что она требует лечения при каждом заболевании; вакцины, которые требуют только одной прививки, упрощают логистику (на самом деле такая вакцина от малярии сейчас находится в разработке). Возможны и более простые механизмы распространения: например, искоренение некоторых болезней путем воздействия на их животных-переносчиков, например, путем выпуска комаров, зараженных бактерией, которая не позволяет им переносить болезнь (а затем заражать всех остальных комаров), или просто с помощью генного драйва для уничтожения комаров. Это потребует одного или нескольких целенаправленных действий, а не скоординированной кампании, в рамках которой придется лечить миллионы людей по отдельности. В целом, я думаю, что 5-10 лет - это разумный срок, к которому значительная часть пользы для здоровья от ИИ (возможно, 50%) распространится на беднейшие страны мира. Хорошей целью может стать то, чтобы в течение 5-10 лет после появления мощного ИИ развивающиеся страны были, по крайней мере, такими же здоровыми, как и развитые, даже если они будут продолжать отставать от развитых стран. Конечно, для достижения этой цели потребуются огромные усилия в области глобального здравоохранения, филантропии, политической пропаганды и многих других областях, и в этом должны помочь как разработчики ИИ, так и политики.
- Экономический рост.Может ли развивающийся мир быстро догнать развитые страны не только по уровню здоровья, но и по всем аспектам экономики? Прецедент есть: в последние десятилетия XX века несколько восточноазиатских стран достигли устойчивых ежегодных темпов роста реального ВВП около 10%, что позволило им догнать развитые страны. Люди, занимающиеся экономическим планированием, принимали решения, которые привели к этому успеху, дергая за несколько ключевых рычагов (например, промышленная политика для роста за счет экспорта и противостояние искушению полагаться на богатство природных ресурсов), а не брали на себя прямой контроль над экономикой в целом; "искусственно умные министры финансов и главы центральных банков" могут повторить или даже превзойти это достижение 10%. Достижение 10%. Важный вопрос заключается в том, как заставить правительства развивающихся стран принять принципы самоопределения и в то же время уважать их - некоторые из них могут быть полны энтузиазма, но другие могут быть настроены скептически. Что касается оптимизма, то многие меры в области здравоохранения, о которых шла речь в предыдущем пункте, могут естественным образом повысить экономический рост: искоренение СПИДа/малярии/паразитических червей окажет преобразующее воздействие на производительность труда, не говоря уже о том, что некоторые меры в области нейронаук (например, улучшение настроения и концентрации) принесут экономическую выгоду как в развитых, так и в развивающихся странах. Наконец, технологии, не связанные со здравоохранением и ускоряющие развитие ИИ (например, энергетические технологии, транспортные беспилотники, улучшенные строительные материалы, более совершенная логистика и распределение и т. д.), могут естественным образом распространиться по всему миру; например, даже в Африке к югу от Сахары мобильные телефоны быстро становятся обычным явлением благодаря рыночным механизмам без усилий филантропов. С другой стороны, несмотря на многочисленные потенциальные преимущества ИИ и автоматизации, они также представляют собой проблему для экономического развития, особенно для стран, которые еще не достигли индустриального развития. Поиск путей, позволяющих этим странам продолжать развиваться и улучшать свою экономику в эпоху автоматизации, - важная задача, которую предстоит решить экономистам и политикам. В целом, сценарий мечты и, возможно, цель - ежегодный рост ВВП в развивающихся странах на 201 т.р., из которых 101 т.р. будет достигнут за счет принятия экономических решений с помощью ИИ, а еще 101 т.р. - за счет ускоренного ИИ естественного распространения технологий, включая здравоохранение, но не ограничиваясь им. Если это будет реализовано, то в течение 5-10 лет страны Африки к югу от Сахары смогут достичь текущего уровня ВВП на душу населения Китая, а многие другие развивающиеся страны смогут достичь уровня, превышающего текущий ВВП США. И опять же, это сценарий мечты, а не то, что произойдет по умолчанию: это то, над чем мы все должны работать вместе, чтобы сделать это более возможным.
- Продовольственная безопасность[24].Технологические достижения в области растениеводства, такие как лучшие удобрения и пестициды, более высокая степень автоматизации и более эффективное использование земли, позволили резко повысить урожайность и спасти миллионы людей от голодной смерти в XX веке. В настоящее время генная инженерия позволяет еще больше улучшить многие сельскохозяйственные культуры. Поиск новых путей и повышение эффективности цепочек поставок сельскохозяйственной продукции может привести ко второй "зеленой революции" с использованием ИИ, которая поможет сократить разрыв между развивающимися и развитыми странами.
- Смягчение последствий изменения климата.Изменение климата будет сильнее ощущаться в развивающихся странах, препятствуя их развитию. Мы можем ожидать, что ИИ приведет к появлению более совершенных технологий, способных смягчить или остановить изменение климата, - от удаления углерода из атмосферы и технологий чистой энергии до мяса, выращенного в лабораторных условиях, что снизит нашу зависимость от углеродоемкого фабричного животноводства. Конечно, как говорилось выше, технологии - не единственное, что сдерживает прогресс в борьбе с изменением климата, - как и во всех других вопросах, обсуждаемых в статье, имеют значение социальные факторы. Но есть все основания полагать, что исследования с использованием искусственного интеллекта позволят нам сделать смягчение последствий изменения климата менее затратным и менее вредным, что сделает многие возражения неактуальными и откроет потенциал для более активного экономического развития развивающихся стран.
- Неравенство в государстве.Я обсуждал неравенство в основном как глобальное явление (что, на мой взгляд, является его наиболее важным проявлением), но, конечно, неравенство существует и внутри стран. В связи с резким увеличением числа передовых медицинских вмешательств, особенно препаратов для продления жизни или улучшения когнитивных способностей, безусловно, существует обоснованная обеспокоенность тем, что эти технологии "только для богатых". Я с особым оптимизмом смотрю на неравенство в развитых странах по двум причинам. Во-первых, рынки в развитых странах работают лучше, и они, как правило, хорошо справляются с задачей снижения стоимости дорогостоящих технологий с течением времени [25]. Во-вторых, политические институты в развитых странах более чувствительны к своим гражданам и обладают большим национальным потенциалом для реализации программ ВД - я ожидаю, что граждане будут требовать доступа к технологиям, которые столь фундаментально улучшают качество их жизни. Конечно, это не означает, что такие требования будут успешными - и здесь мы должны коллективно сделать все возможное для обеспечения справедливого общества. Существует отдельная проблема неравенства богатства (в отличие от неравенства в доступе к технологиям, спасающим и улучшающим жизнь), которая представляется более сложной для решения, о чем я рассказываю в разделе 5.
- Вопросы отказа от услуг.. Как в развитых, так и в развивающихся странах существует проблема "отказа" людей от преимуществ ИИ (подобно движению против вакцин или движению луддитов в целом). Может возникнуть плохая обратная связь, например, люди, которые менее всего способны принимать правильные решения, откажутся от развития технологий, которые улучшают их способность принимать решения, что приведет к увеличению разрыва и даже созданию антиутопического андеркласса (который, по мнению некоторых исследователей, подорвет демократию, о чем я расскажу в следующем разделе). Это снова поставит моральное пятно на позитивный прогресс ИИ. Эту проблему сложно решить, поскольку я не думаю, что с этической точки зрения возможно принуждать людей, но мы можем хотя бы попытаться улучшить научное понимание людей - возможно, сам ИИ сможет помочь нам в этом. Одним из обнадеживающих признаков является то, что исторически сложилось так, что антитехнологические кампании обычно звучат громче, чем реальные действия: оппозиция современным технологиям популярна, но большинство людей в конечном итоге принимают их, по крайней мере, когда это является вопросом личного выбора. Отдельные люди склонны принимать большинство медицинских и потребительских технологий, в то время как технологии, которым действительно препятствуют, такие как ядерная энергия, обычно являются коллективными политическими решениями.
В целом я с оптимизмом смотрю на возможность быстрого внедрения биологических достижений ИИ в жизнь людей в развивающихся странах. Я надеюсь, хотя и не уверен, что ИИ сможет достичь беспрецедентных темпов экономического роста, которые позволят развивающимся странам, по крайней мере, опередить нынешние уровни развитых стран. Меня беспокоит проблема "отказа от участия" как в развитых, так и в развивающихся странах, но я подозреваю, что со временем она исчезнет и что ИИ может помочь ускорить этот процесс. Мир не будет идеальным, и те, кто отстает, не смогут догнать его, по крайней мере, в первые несколько лет. Но благодаря нашим усилиям мы сможем быстро продвинуться в правильном направлении. И если мы это сделаем, то сможем внести хоть какой-то вклад в выполнение обещаний о достоинстве и равенстве, которые мы даем каждому человеку на планете.
4. Мир и управление
Предположим, что в первых трех компонентах все идет хорошо: болезни, бедность и неравенство значительно сократились, а базовый уровень человеческого опыта значительно улучшился. Это не означает, что все основные причины человеческих страданий устранены. Люди по-прежнему представляют угрозу друг для друга.
Хотя существует тенденция к тому, что технический прогресс и экономическое развитие ведут к демократии и миру, это очень слабая тенденция, которая часто (и в последнее время) идет в обратном направлении. В начале двадцатого века люди думали, что оставили войну позади; затем произошли две мировые войны. Тридцать лет назад Фрэнсис Фукуяма писал о "конце истории" и окончательном триумфе либеральной демократии; этого еще не произошло. Двадцать лет назад американские политики верили, что свободная торговля с Китаем приведет к его либерализации по мере того, как он будет становиться богаче; этого просто не произошло, и теперь мы, похоже, движемся ко второй холодной войне с возрожденным авторитарным блоком. Достоверные теории предполагают, что интернет-технологии могут на самом деле благоприятствовать авторитаризму, а не демократии, как считалось изначально (например, во время "арабской весны"). Представляется важным попытаться понять, как мощный ИИ будет пересекаться с вопросами мира, демократии и свободы.
К сожалению, у меня не больше оснований полагать, что ИИ будет преимущественно или структурно способствовать развитию демократии и мира, чем в том, что он будет структурно способствовать улучшению здоровья людей и сокращению бедности. Человеческие конфликты носят состязательный характер, и ИИ в принципе может помочь как "хорошим парням", так и "плохим парням". Некоторые структурные факторы вызывают беспокойство: ИИ может лучше способствовать пропаганде и слежке, которые являются ключевыми инструментами в арсенале авторитарных правителей. Поэтому мы, как отдельные участники, должны стараться двигать ситуацию в правильном направлении: если мы хотим, чтобы ИИ благоприятствовал демократии и правам личности, нам придется бороться за этот результат. Я отношусь к этому более решительно, чем к международному неравенству: торжество либеральной демократии и политической стабильности не гарантировано, возможно, даже не возможно, и потребует от всех нас больших жертв и самоотдачи, как это часто бывало в прошлом.
Я думаю, что у этой проблемы есть две составляющие: международный конфликт и внутренняя структура государства. На международном фронте представляется важным, чтобы демократии преобладали на мировой арене, когда создаются мощные ИИ. Авторитаризм, управляемый ИИ, кажется слишком страшным, чтобы о нем думать, поэтому демократии должны быть в состоянии установить условия, при которых мощные ИИ могут войти в мир, как для того, чтобы избежать подавления авторитарными государствами, так и для того, чтобы предотвратить нарушения прав человека в авторитарных государствах.
На данный момент я считаю, что лучший способ добиться этого - "стратегия согласия" [26], в которой коалиция демократических стран стремится получить явное преимущество (пусть даже временное) над мощным ИИ, обеспечив безопасность своей цепи поставок, быстро расширяясь и предотвращая или задерживая доступ противника к ключевым ресурсам (например, чипам и полупроводниковому оборудованию). ). Коалиция будет использовать ИИ для достижения серьезного военного преимущества (кнут), предлагая при этом распространить преимущества мощного ИИ среди все большего числа стран (пряник) в обмен на поддержку стратегии коалиции по продвижению демократии (что будет чем-то сродни "мирному атому"). Цель коалиции - заручиться поддержкой все большего числа стран мира, изолировать наших худших противников и в конечном итоге поставить их в более выгодное положение, чтобы отказаться от конкуренции с демократическими странами за все преимущества и не сражаться с превосходящими противниками: отказаться от конкуренции с демократическими странами за все преимущества и не сражаться с превосходящими противниками.
Если нам удастся сделать все это, мы получим мир, в котором демократии будут доминировать на мировой арене и обладать экономической и военной мощью, чтобы избежать подрыва, порабощения или уничтожения со стороны авторитарных государств, а также смогут превратить свои преимущества в области искусственного интеллекта в долгосрочные. Это может оптимистично привести к "вечному 1991 году" - миру, где демократии победят и мечта Фукуямы будет реализована. И опять же, реализовать это будет очень сложно, особенно если учесть, что для этого потребуется тесное сотрудничество между частными ИИ-компаниями и демократическими правительствами, а также чрезвычайно мудрое принятие решений о соотношении пряников и кнутов.
Даже если все пойдет хорошо, остается открытым вопрос о борьбе между демократией и авторитаризмом внутри каждой страны. Конечно, трудно предсказать, что произойдет, но у меня есть определенный оптимизм в отношении того, что в глобальной среде, в которой демократические государства контролируют самые мощные ИИ, ИИ может быть структурирован таким образом, чтобы поддерживать демократию в любом месте. В частности, в такой обстановке демократические правительства могли бы использовать свои супер-ИИ для победы в информационной войне: они могли бы противостоять влиянию и пропагандистским операциям авторитарных государств и, возможно, даже создать глобальную среду свободной информации, предоставляя доступ к информации и услугам ИИ, которые авторитарные государства не имеют технологической возможности блокировать или контролировать. Возможно, не нужно будет вести пропаганду, а просто противостоять вредоносным атакам и устранить свободный поток информации. Хотя это и не произойдет немедленно, такое равное игровое поле имеет все шансы постепенно сдвинуть глобальное управление в сторону демократии по нескольким причинам.
Во-первых, достижения в области повышения качества жизни, описанные в разделах 1-3, при прочих равных условиях должны способствовать развитию демократии: исторически так и происходило, по крайней мере в некоторой степени. В частности, я ожидаю, что улучшение психического здоровья, счастья и образования будет способствовать росту демократии, поскольку все эти три фактора отрицательно коррелируют с поддержкой авторитарных лидеров. В целом, люди хотят больше самовыражения, когда другие потребности удовлетворены, а демократия - это форма самовыражения. В отличие от этого, авторитаризм процветает на страхе и обиде.
Во-вторых, существует большая вероятность того, что свободная информация действительно будет подрывать авторитаризм, если авторитаристы не смогут ее цензурировать. ИИ без цензуры также может дать людям мощные инструменты для подрыва деспотичных правительств. Деспотичные правительства выживают за счет того, что лишают людей некоторых видов общеизвестных знаний, не позволяя им понять, что "император не имеет одежды". Например, Срджа Попович, который помог свергнуть правительство Милошевича, много писал о методах психологического подавления авторитарных лиц, снятия заклятий и сплочения оппозиции диктаторам. Сверхэффективная версия искусственного интеллекта в кармане у каждого (чьи навыки, похоже, будут высоко оплачиваться интеллектом) могла бы создать поддержку диссидентам и реформаторам по всему миру. Это будет долгая, трудная борьба, и победа не гарантирована, но если мы спроектируем и создадим ИИ правильно, это может стать борьбой, в которой сторонники свободы будут иметь преимущество повсюду.
Подобно нейронауке и биологии, мы можем спросить, как можно сделать вещи "лучше, чем обычно" - не только как избежать авторитаризма, но и как сделать демократию лучше, чем она есть сегодня. Даже в демократических странах часто случаются несправедливости. Правовое общество обещает своим гражданам, что все будут равны перед законом и что все будут пользоваться основными правами человека, но очевидно, что на практике люди не всегда получают эти права. Этим обещанием можно гордиться, даже если оно частично выполнено, но может ли ИИ помочь нам добиться большего?
Например, может ли ИИ улучшить наши правовые и судебные системы, сделав решения и процессы более справедливыми? Сегодня существуют серьезные опасения, что системы ИИ станут причиной дискриминации в правовом или судебном контексте, и эти опасения очень важны, и их необходимо отстаивать. В то же время жизнеспособность демократии зависит от использования новых технологий для совершенствования демократических институтов, а не только для реагирования на риски. По-настоящему зрелая и успешная реализация ИИ способна уменьшить предвзятость и быть более справедливой для всех.
На протяжении веков правовая система сталкивалась с дилеммой: закон, призванный быть справедливым, по своей сути субъективен, а значит, должен интерпретироваться предвзятыми человеческими существами. Попытки полностью механизировать право не увенчались успехом, поскольку реальный мир хаотичен и не всегда может быть описан математическими формулами. Вместо этого правовая система опирается на печально известные неточные критерии, такие как "жестокое и необычное наказание" или "полное отсутствие искупительной социальной ценности", которые затем интерпретируются людьми - и часто таким образом, чтобы показать предвзятость, предубеждение и отсутствие социальной ценности. -и часто делают это таким образом, чтобы продемонстрировать предвзятость, благосклонность или произвол. "Умные контракты" в криптовалютах не произвели революции в юриспруденции, потому что обычный код недостаточно умен, чтобы решать все интересные вопросы. Но ИИ может быть достаточно умным: это первая технология, способная выносить широкие и неоднозначные решения повторяющимся и механическим способом.
Я не предлагаю буквально заменить судей системами искусственного интеллекта, но сочетание беспристрастности и способности понимать и справляться с запутанными ситуациями реального мира должно иметь серьезные положительные последствия для права и правосудия. По крайней мере, такая система может служить помощником в принятии решений человеком. Прозрачность важна для любой такой системы, и сложная наука ИИ может обеспечить ее: процесс обучения таких систем может быть подробно изучен, а передовые интерпретируемые методы могут быть использованы для того, чтобы заглянуть внутрь конечной модели и оценить ее на предмет скрытых предубеждений, что было бы невозможно с человеком. Такие инструменты ИИ также можно использовать для мониторинга нарушений основных прав в судебном или полицейском контексте, что позволит сделать конституции более самодостаточными.
Аналогичным образом ИИ можно использовать для обобщения мнений и достижения консенсуса между гражданами, разрешения конфликтов, поиска точек соприкосновения и компромисса. Некоторые ранние идеи в этом направлении были подхвачены проектом Computational Democracy Project, в том числе в сотрудничестве с Anthropic. Более информированные и вдумчивые граждане, безусловно, укрепляют демократические институты.
Существует также очевидная возможность использовать ИИ для оказания государственных услуг - например, медицинских или социальных - которые в принципе доступны всем, но на практике часто испытывают острую нехватку и в некоторых местах живут хуже, чем в других. Сюда входят медицинские услуги, регистрация транспортных средств, налоги, социальное обеспечение, соблюдение строительных норм и правил и многое другое. Наличие очень продуманного и хорошо информированного ИИ, в обязанности которого входит предоставление вам доступа ко всем услугам, которые должно предоставлять правительство, в понятной форме - а также помощь в соблюдении зачастую запутанных правил управления - было бы очень важным. Повышение потенциала государства помогает выполнить обещание равенства перед законом и укрепляет уважение к демократическому управлению. Некачественно оказанные услуги - одна из основных причин нынешнего цинизма в отношении правительства [27].
Все это - смутные идеи, и, как я уже говорил в начале этого раздела, уверенности в их осуществимости у меня гораздо меньше, чем в прогрессе в биологии, нейронауках и борьбе с бедностью. Возможно, это непрактичные утопические идеи. Но важно иметь амбициозное видение и быть готовым смело мечтать и пробовать новое. Видение ИИ как гаранта свободы, прав личности и равенства перед законом слишком сильно, чтобы его игнорировать. Государство XXI века, управляемое ИИ, может стать как более надежным защитником индивидуальных свобод, так и маяком надежды, помогая сделать либеральную демократию формой правления, которую захочет принять весь мир.
5. Работа и смысл
Даже если все в первых четырех частях пройдет успешно - мы не только избавимся от болезней, бедности и неравенства, но и либеральная демократия станет доминирующей формой правления, а существующие либеральные демократии станут лучшими версиями самих себя, - по крайней мере один важный вопрос остается. "Здорово, что мы живем в таком технологически развитом, а также справедливом и достойном мире, - может возразить кто-то, - но если ИИ будет делать все, как люди будут иметь смысл жизни? И как, кстати, они будут выживать экономически?"
Я считаю, что эта проблема сложнее других. Я имею в виду, что этот вопрос более непредсказуем, чем другие, потому что он включает в себя макровопросы о том, как устроены общества, вопросы, которые часто могут быть решены только со временем и децентрализованным образом. Например, исторические общества охотников-собирателей могли представить, что жизнь будет бессмысленной без охоты и различных религиозных ритуалов, связанных с ней, и они могли представить, что наше пресыщенное технологическое общество бесцельно. Они также могут не понимать, как наша экономика обеспечивает всех и каждого, и какие функции люди могут эффективно выполнять в механизированном обществе.
Тем не менее, стоит сказать хотя бы несколько слов, помня о том, что краткость этого раздела ни в коем случае не говорит о том, что я не отношусь к этим вопросам серьезно - напротив, это признак отсутствия четких ответов.
Что касается смысла, то я думаю, что, скорее всего, ошибочным является мнение, что если вы выполняете задачу, которая не имеет смысла, то это только потому, что ИИ может сделать это лучше. Большинство людей не являются лучшими в мире ни в чем, и это, похоже, их не особенно беспокоит. Конечно, сегодня они все еще могут вносить свой вклад благодаря сравнительным преимуществам и могут извлекать смысл из экономической ценности, которую они производят, но люди также получают огромное удовольствие от деятельности, которая не приносит экономической ценности. Я провожу много времени, играя в видеоигры, плавая, гуляя на улице и разговаривая с друзьями, - все это не производит экономической ценности. Я могу провести день, пытаясь лучше сыграть в видеоигру или быстрее проехать на велосипеде по горам, и меня совершенно не волнует, что у кого-то это получается лучше, чем у меня. В любом случае, я думаю, что смысл жизни в большей степени зависит от отношений и связей, а не от экономического труда. Людям действительно нужно чувство выполненного долга, даже если это чувство конкуренции, и в мире после появления ИИ вполне можно потратить годы на решение очень сложных задач с применением сложных стратегий, подобно тому, как это делают люди сегодня, когда начинают исследовательский проект, пытаются стать голливудским актером или открыть компанию [28]. Тот факт, что (а) ИИ где-то в принципе может выполнить эту задачу лучше, и (б) что эта задача больше не является элементом экономической прибыли в глобальной экономике, мне кажется неважным.
На самом деле, мне кажется, что экономическая часть сложнее, чем содержательная. Под "экономической" частью в этом разделе я подразумеваю возможную проблему, связанную с тем, что большинство или все люди не смогут внести значимый вклад в достаточно развитую экономику, управляемую ИИ. Это гораздо более макропроблема, чем отдельная проблема неравенства, особенно неравного доступа к новым технологиям, которую я рассматриваю в разделе 3.
Во-первых, в краткосрочной перспективе я согласен с тем, что аргумент о сравнительных преимуществах будет продолжать делать людей значимыми и фактически повышать их производительность, даже уравнивая в некотором роде игровое поле. До тех пор пока ИИ будет только на 90% лучше выполнять определенную работу, остальные 10% приведут к тому, что люди станут высокоэффективными, увеличат компенсацию и фактически создадут множество новых человеческих рабочих мест, которые дополнят и усилят то, в чем хорош ИИ, позволяя "10%" расширяться, чтобы продолжать нанимать почти всех. На самом деле, даже если ИИ может делать 100% вещей лучше, чем люди, логика сравнительного преимущества продолжает действовать, если он остается неэффективным или дорогим при выполнении определенных задач, или если затраты ресурсов для людей и ИИ значительно отличаются. Одна из областей, где люди могут сохранять относительное (или даже абсолютное) преимущество с течением времени, - это физический мир. Таким образом, я считаю, что человеческая экономика может сохранять свою актуальность даже после того, как мы достигнем "состояния гения, ориентированного на данные".
Однако я считаю, что в долгосрочной перспективе ИИ станет настолько эффективным и дешевым, что это перестанет быть актуальным. В этот момент наша нынешняя экономическая система перестанет иметь смысл, и возникнет необходимость в более широком общественном диалоге о том, как должна быть организована экономика.
Это может показаться безумием, но дело в том, что в прошлом цивилизация успешно справлялась с крупными экономическими сдвигами: от охоты-собирательства к земледелию, от земледелия к феодализму и от феодализма к индустриализму. Я подозреваю, что потребуется нечто новое и необычное - видение, которое сегодня никому не удается. Это может быть что-то вроде всеобщего базового дохода для всех, хотя я подозреваю, что это лишь малая часть решения. Это может быть капиталистическая экономика, управляемая системой ИИ, которая затем распределяет ресурсы между людьми (из-за того, что система ИИ считает разумным вознаграждать людей) на основе суждений системы ИИ (которые в конечном итоге вытекают из человеческих ценностей), основанных на какой-то вторичной экономике. Может быть, экономика основана на очках Вхуффи. Или, может быть, люди в конечном итоге все еще представляют собой экономическую ценность, но каким-то образом, не предусмотренным обычными экономическими моделями. Все эти решения имеют большое количество возможных проблем, и неясно, имеют ли они смысл, если не провести много итераций и экспериментов. Как и в случае с некоторыми другими задачами, нам, возможно, придется бороться за них, чтобы получить хорошие результаты: возможны эксплуататорские или антиутопические направления, и их нужно пресекать. Об этих вопросах можно написать еще больше, и я надеюсь сделать это в будущем.
резюме
С помощью различных тем, упомянутых выше, я попытался представить видение мира, который, если все пойдет хорошо с ИИ, будет намного лучше, чем тот, который мы имеем сегодня. Я не знаю, реалистичен ли этот мир, и даже если да, он не будет реализован без тяжелой работы и борьбы многих смелых и преданных своему делу людей. Все (включая компании, занимающиеся разработкой искусственного интеллекта!) ) должны внести свой вклад, как для предотвращения рисков, так и для реализации всех преимуществ.
Но это мир, за который стоит бороться. Если это произойдет через пять-десять лет - победа над большинством болезней, рост биологической и когнитивной свободы, избавление миллиардов людей от нищеты, распространение новых технологий, возрождение либеральной демократии и прав человека, - я сомневаюсь, что на каждого, кто станет свидетелем этого, это подействует . Я имею в виду наблюдение за личными преимуществами всех новых технологий, конечно, это было бы потрясающе. Я имею в виду наблюдение за тем, как набор идеалов, которых мы так долго придерживались, реализуется одновременно для всех. Думаю, многих это тронет до слез.
В процессе написания этой статьи я заметил интересное напряжение. В каком-то смысле представленное здесь видение крайне радикально: это не то, чего почти все ожидают в ближайшее десятилетие, и многим оно может показаться абсурдной фантазией. Некоторые могут даже счесть его нежелательным; оно воплощает ценности и политический выбор, с которыми не все согласятся. Но в то же время в нем есть что-то очень очевидное - что-то предопределенное, - как будто множество различных попыток представить себе хороший мир неизбежно привели сюда.
В книге Иэна М. Бэнкса "Игрок" [29] главный герой, несмотря на все это, остается вещью трансцендентной красоты. У нас есть возможность внести небольшой вклад в ее реализацию. Тем не менее, она остается вещью трансцендентной красоты. У нас есть возможность внести небольшой вклад в ее реализацию. -Члены общества под названием "Культура", основы которого совпадают с тем, что я предлагаю здесь, отправляются в репрессивную, милитаристскую империю, лидерство в которой определяется сложным соревнованием по файтингу. Однако игра достаточно сложна, чтобы стратегии игроков в ней отражали их собственные политические и философские взгляды. Тот факт, что главному герою удается победить императора в игре, говорит о том, что его ценности (ценности культуры) представляют собой выигрышную стратегию даже в рамках правил игры, созданной обществом безжалостной конкуренции и выживания сильнейших.В известном посте Скотта Александера приводится тот же аргумент - что конкуренция саморазрушительна и имеет тенденцию приводить к обществу, основанному на сострадании и сотрудничестве. Другая похожая концепция - "дуга моральной вселенной".
Я думаю, что ценности культуры - это выигрышная стратегия, потому что они представляют собой сумму миллиона маленьких решений, которые имеют четкую моральную силу и, как правило, тянут всех на одну сторону. С такими базовыми человеческими интуициями, как справедливость, сотрудничество, любопытство и автономия, трудно спорить, причем в совокупности, чего не скажешь о наших более разрушительных импульсах. Легко думать, что дети не должны умирать от болезней, которые мы можем предотвратить, и отсюда легко думать, что каждый ребенок заслуживает этого права. Отсюда легко утверждать, что мы должны объединиться и применить нашу изобретательность для достижения этого результата. Мало кто не согласен с тем, что люди, которые без необходимости нападают на других или причиняют им вред, должны быть наказаны, и отсюда нетрудно довести до сознания людей, что наказание должно быть последовательным и систематическим. Аналогичным образом действует идея о том, что люди должны обладать автономией и нести ответственность за свою жизнь и выбор. Эти простые интуиции, если довести их до логического завершения, в конечном итоге приводят к верховенству закона, демократии и ценностям Просвещения. Если и не неизбежно, то, по крайней мере, как статистическая тенденция, человечество уже движется именно туда.
Тем не менее, он остается предметом трансцендентной красоты. У нас есть возможность внести свой небольшой вклад в ее воплощение.
Спасибо Кевину Эсвелту, Парагу Маллику, Стюарту Ричи, Мэтту Иглесиасу, Эрику Бринйолфссону, Джиму МакКлейву, Аллану Дэфо и многим сотрудникам Anthropic за рецензирование черновиков этой статьи.
Спасибо Нобелевскому лауреату по химии 2024 года за то, что указал нам путь.
Сноска #
01.https://allpoetry.com/All-Watched-Over-By-Machines-Of-Loving-Grace
02. Я ожидаю, что реакция некоторых людей будет такой: "Это слишком безвкусно". Думаю, этим людям нужно, выражаясь языком Twitter, "потрогать траву". Но что более важно, безвкусность хороша с социальной точки зрения. Я думаю, что существует предел того, сколько изменений люди могут вынести за один раз, и тот темп, который я описываю, вероятно, близок к пределу того, что общество может воспринять без сильных потрясений.
03. Я думаю, что AGI - это неточный термин, который накапливает много научно-фантастического багажа.
и шумихи. Я предпочитаю "мощный ИИ" или "экспертная наука и инженерия", которые достигают того, что я имею в виду, без шумихи.
04. В этой статье я использую термин "интеллект" для обозначения общей способности к решению проблем, которая может применяться в различных областях. Сюда входят такие способности, как рассуждение, обучение, планирование и творчество. Хотя я использую термин "интеллект" в качестве сокращения в этой статье, я признаю, что природа интеллекта - сложная и противоречивая тема в когнитивной науке и исследованиях ИИ. Некоторые исследователи утверждают, что интеллект - это не единое, унифицированное понятие, а скорее набор независимых когнитивных способностей. Другие считают, что существует общий фактор интеллекта (g-фактор), лежащий в основе различных когнитивных навыков. Об этом мы поговорим в другой раз.
05. Это примерно скорость современных систем ИИ - например, они могут прочитать страницу текста за несколько секунд и, возможно, написать страницу текста за 20 секунд, что в 10-100 раз быстрее, чем это может сделать человек. Со временем более крупные модели делают это медленнее, а более мощные чипы - быстрее; на данный момент эти два эффекта примерно равны.
06. Может показаться, что это позиция соломенного человека, но такие внимательные мыслители, как Тайлер Коуэн и Мэтт Иглесиас, поднимали ее как серьезную проблему (хотя я не думаю, что они придерживаются ее полностью), и я не считаю ее безумной.
07. Ближайшая известная мне работа по экономике, в которой рассматривается этот вопрос, - это работа по "технологиям общего назначения" и "нематериальным инвестициям", которые дополняют технологии общего назначения.
08. Такое обучение может включать в себя специальное обучение в контексте или традиционное обучение; и то, и другое ограничено физическим миром.
09. В хаотических системах малые ошибки со временем увеличиваются экспоненциально, поэтому даже если значительное увеличение вычислительной мощности приведет лишь к небольшому увеличению предсказательной способности, ошибки измерений могут еще больше снизить ее.
10. другой фактор, конечно, заключается в том, что мощный ИИ сам может быть использован для создания еще более мощного ИИ. моя гипотеза заключается в том, что это может произойти (фактически, вероятно, произойдет), но его влияние будет меньше, чем вы думаете, именно из-за "уменьшающейся предельной отдачи от интеллекта", о которой здесь говорилось. Другими словами, ИИ будет продолжать становиться умнее очень быстро, но его влияние в конечном итоге будет ограничено неинтеллектуальными факторами, и анализ этих факторов имеет решающее значение для скорости научного прогресса за пределами ИИ.
11. Эти достижения вдохновляют меня и, возможно, являются самым мощным из существующих примеров использования искусственного интеллекта для преобразования биологии.
12. "Научный прогресс зависит от новых технологий, новых открытий и новых идей, вероятно, именно в таком порядке". - Сидни Бреннер
13. Спасибо Парагу Маллику за то, что поднял этот вопрос.
14. Я не хочу заполнять текст рассуждениями о том, какие конкретные открытия в будущем может сделать наука с помощью ИИ, но вот мозговой штурм некоторых возможностей: - Разработка лучших вычислительных инструментов, таких как AlphaFold и AlphaProteo - т. е. системы ИИ общего назначения, которая ускорит нашу способность создавать специализированные инструменты ИИ для вычислительной биологии. - Более эффективный и селективный CRISPR. - Более эффективный и селективный CRISPR. - Более совершенные клеточные терапии. - Прорывы в материаловедении и миниатюризации, ведущие к созданию более совершенных имплантируемых устройств. - Улучшение контроля над стволовыми клетками, их дифференцировкой и дедифференцировкой и, как следствие, способность к регенерации и ремоделированию тканей. - Улучшение контроля над иммунной системой: избирательное ее включение для борьбы с раком и инфекционными заболеваниями и избирательное ее выключение для борьбы с аутоиммунными заболеваниями.
15. Конечно, ИИ также может помочь в более разумном выборе экспериментов: улучшить дизайн экспериментов, узнать больше из первого раунда экспериментов, чтобы во втором раунде сузить круг ключевых вопросов, и так далее.
16. Спасибо Мэтью Иглесиасу за то, что он поднял этот вопрос.
17. Быстро развивающиеся болезни, такие как штаммы с множественной лекарственной устойчивостью, которые, по сути, используют больницы как эволюционные лаборатории, чтобы постоянно повышать свою устойчивость к лечению, могут быть особенно сложными в борьбе с ними и могут стать тем, что помешает нам достичь 100%.
18. Обратите внимание, что за 5-10 лет трудно определить, удвоили ли мы продолжительность жизни человека. Хотя мы, возможно, и достигли этого, мы можем не знать об этом в течение срока, отведенного на исследование.
19. Вот что я хотел бы сказать, несмотря на очевидные биологические различия в лечении болезней и замедлении самого процесса старения, а скорее, глядя на статистические тенденции с большего расстояния: "Даже если детали отличаются, я думаю, что гуманитарные науки, скорее всего, продолжат эту тенденцию; в конце концов, плавные тенденции в сложных вещах неизбежно состоят из очень разнородных компонентов".
20. Например, мне сказали, что увеличение роста производительности на 11 т.р. или даже на 0,51 т.р. в год окажет преобразующее воздействие на прогнозы, связанные с этими программами. Если идеи, рассматриваемые в этом документе, будут реализованы, рост производительности может быть гораздо выше этого показателя.
21. СМИ любят изображать психопатов с высоким статусом, но средний психопат может быть человеком с плохими финансовыми перспективами и слабым контролем импульсов, который в итоге проводит много времени в тюрьме.
22. Я думаю, что это можно сравнить с тем, что многие результаты, которые мы извлекли из интерпретируемости, сохранят свою актуальность, даже если некоторые архитектурные детали наших современных искусственных нейронных сетей, например механизм внимания, будут изменены или заменены.
23. Я подозреваю, что это немного похоже на классическую хаотическую систему - страдает от неустранимой сложности, которой приходится управлять в основном децентрализованным способом. Хотя, как я утверждаю в одном из последующих разделов, возможны и более скромные вмешательства. Контраргумент, который привел мне экономист Эрик Бринйолфссон, заключается в том, что крупные фирмы (например, Wal-Mart или YouTuber) начинают обладать достаточным объемом централизованных знаний, чтобы понимать потребителей лучше, чем любой децентрализованный процесс, что, возможно, заставит нас пересмотреть выводы Хайека о том, кто обладает наилучшими местными знаниями.
24. Спасибо Кевину Эсвелту за то, что поднял этот вопрос.
25. например, мобильные телефоны начинались как технология для богатых, но вскоре стали очень дешевыми, а усовершенствования из года в год происходили так быстро, что преимущества покупки "роскошного" мобильного телефона больше не существовало, и сегодня большинство людей владеют мобильными телефонами схожего качества.
26. Именно так называется готовящаяся к публикации статья RAND, в которой в общих чертах изложена описанная мной стратегия.
27. Когда обычные люди думают о государственных учреждениях, они, возможно, вспоминают свой опыт общения с DMV, IRS, Medicare и другими подобными службами. Сделать этот опыт более позитивным, чем он есть сейчас, представляется действенным способом борьбы с излишним цинизмом.
28. Действительно, в мире, управляемом ИИ, масштабы этих возможных задач и проектов будут гораздо шире, чем сегодня.
29. Я нарушил собственное правило - не делать это научной фантастикой, но мне трудно хотя бы упомянуть об этом. Правда в том, что научная фантастика - один из единственных источников, где мы можем проводить обширные мыслительные эксперименты с будущим; я считаю, что плохо, что она так переплетена с очень узкой субкультурой.
© заявление об авторских правах
Авторское право на статью Круг обмена ИИ Пожалуйста, не воспроизводите без разрешения.
Похожие статьи
Нет комментариев...
Русский 
简体中文 
English 
日本語 
한국어 
Español 
Deutsch 
Français 
Português do Brasil