Что такое искусственный интеллект

Что называют искусственным интеллектом

Термин обозначает и область исследований, и созданные в ней технологии. Джон Маккарти описывал ИИ как науку и инженерную деятельность по созданию интеллектуальных машин, особенно компьютерных программ. При этом он не считал обязательным воспроизводить именно биологические способы решения задач. [2]

В определении OECD система получает входные данные и выводит из них, как сформировать прогноз, контент, рекомендацию или решение для заданных целей. Самостоятельность и способность изменяться после внедрения у таких систем различаются. Это один из подходов к определению границ ИИ. [1]

Обычная автоматизация, например отправка письма по расписанию, сама по себе не требует ИИ. Определение темы произвольного сообщения может опираться на обученную модель. Но обучение — не обязательный признак: к ИИ относят и системы, использующие явно заданные знания и правила вывода. [1]

В одном приложении эти способы могут соседствовать. В нашем примере модель выбирает тему обращения, а обычное правило назначает очередь поддержки. Чтобы понять, что именно делает ИИ, полезно выделить его задачу внутри всей программы.

Чем искусственный интеллект отличается от человеческого

Человек и программа могут получить одинаковый результат — распознать слово, решить задачу, выбрать подходящий ответ. Но сходство результата ещё не доказывает одинаковый способ его получения. Инженерная система может использовать вычисления, которые не воспроизводят работу человека. [2]

Человеческий интеллект рассматривают через связанные способности учиться, рассуждать и действовать в новых обстоятельствах. В статье о машинах, которые учатся и думают подобно людям, Бренден Лейк и соавторы выделяют роль причинных моделей мира, переноса знаний и обучения тому, как учиться. Это исследовательский подход к сравнению, а не доказательство того, что какая-либо способность навсегда недоступна машинам. [3]

Возьмём сообщение о размере. Сотрудник может уточнить, какой товар заказали и что доставили, учесть предыдущий разговор и договориться об обмене. Классификатор из нашего примера решает более узкую задачу: выбирает категорию текста. В нём не предусмотрены ни проверка заказа, ни согласование возврата. Для этих действий системе понадобятся дополнительные функции и доступ к нужным сведениям.

Поэтому сравнение «кто умнее» без указания задачи мало что объясняет. Гораздо точнее спросить, какие действия проверяли, при каких условиях и насколько устойчиво получали результат. Успех программы в отдельном испытании не описывает весь набор человеческих способностей.

Как работает искусственный интеллект

Рассмотрим вариант, в котором тему обращения определяет модель машинного обучения. Модель — вычислительное представление связей, используемое для получения результата по входным данным. При обучении с учителем ей показывают примеры с известными ответами: здесь это сообщения и назначенные им категории. [4]

1. Готовят данные. Для учебного примера возьмём обращения о доставке, оплате и возврате. Каждому сообщению назначают подходящую тему. Если одинаковые случаи размечены противоречиво, системе сложнее выучить нужное различие.
2. Обучают модель. Текст преобразуют в числовое представление. Алгоритм подбирает параметры модели, сравнивая её ответы с заданными категориями. Разработчик задаёт процедуру обучения, а связи между особенностями сообщений и темами извлекаются из примеров.
3. Проверяют на отдельных примерах. Часть обращений не используют для подбора параметров. На них оценивают, справляется ли модель с новыми формулировками, и разбирают ошибки. Проверка нужна, чтобы отличить полезное обобщение от хороших ответов только на знакомые сообщения. [4]
4. Применяют готовую модель. Она получает фразу «Мне пришёл не тот размер» и выбирает тему. Затем приложение передаёт обращение сотруднику. Получение ответа с уже заданными параметрами называют выводом модели, или инференсом.

Обучение и использование — разные этапы. Новое сообщение не обязательно меняет параметры модели. Они могут оставаться фиксированными до переобучения. Существуют и адаптирующиеся системы, но само общение с программой ещё не означает такого обучения. [1]

Есть и другой подход: разработчики явно описывают знания и правила вывода. Такие системы можно сочетать с моделями, которые учатся на данных.

Как связаны ИИ, машинное обучение и нейросети

Искусственный интеллект — наиболее широкое понятие в этом ряду. Машинное обучение — семейство подходов, в которых модели получают полезные закономерности из данных. Обучение с готовыми ответами, как в примере с обращениями, — лишь один вариант: можно также искать структуру в неразмеченных данных или обучаться по сигналу о результате действий. [4]

Нейросети — один из классов моделей машинного обучения. Они состоят из связанных вычислительных элементов с настраиваемыми параметрами. Глубокое обучение использует многослойные модели: последовательные преобразования позволяют получать представления данных разного уровня сложности. Такие модели применяются к изображениям, речи и другим данным, а не только к тексту. [5]

Генеративный ИИ выделяют по задаче: он создаёт контент — например, текст, изображение или звук. Это не синоним любой нейросети. Классификатор обращений может быть нейросетевым и при этом только выбирать одну из заранее заданных тем. [4]

LLM расшифровывается как large language model — большая языковая модель. При генерации текста такая модель оценивает возможные продолжения с учётом контекста и последовательно формирует ответ из токенов: это могут быть слова или их части. Поэтому языковую модель можно использовать, например, для черновика ответа покупателю. Выбор категории сообщения и написание ответа остаются разными задачами, даже если их выполняет одна система. [6]

Какие задачи решает ИИ и где применяется

ИИ применяется в обработке документов, работе с покупателями, планировании и создании материалов. Полезно различать тип результата: распознанные данные, прогноз, рекомендация и сгенерированный текст требуют разных способов проверки. Ниже — примеры таких задач.

Эти задачи могут объединяться. Например, распознавание речи превращает звонок в текст, классификатор определяет тему, а генеративная модель предлагает краткое содержание. Ошибка на первом этапе способна повлиять на следующие, поэтому оценивать нужно и отдельные компоненты, и итог работы всей системы.

В нашем примере полезный результат — обращение попало к подходящему сотруднику без лишней пересылки. Само наличие нейросети ничего не говорит о том, достигнут ли этот результат: его нужно сопоставить с реальными обращениями и выбранными критериями качества.

Возможности и ограничения ИИ

ИИ помогает обрабатывать большие потоки информации, находить закономерности и готовить варианты решений. Но качество зависит от конкретной задачи и условий применения. NIST рассматривает надёжность в связи с проверкой системы в предполагаемых условиях работы; результаты одного испытания не заменяют такую проверку. [7]

Данные могут не отражать новую ситуацию. Если классификатор обучали только на коротких сообщениях, длинное обращение с несколькими темами может оказаться труднее. Ошибочная разметка, пробелы в данных и изменения условий способны повлиять на ответы. Поэтому важно проверять разные группы случаев и следить за качеством после внедрения. [7]

Убедительность ответа не гарантирует его истинность. Генеративная модель может уверенно сообщить неверный факт или привести несуществующий источник. NIST отдельно описывает этот риск как конфабуляцию, также известную как «галлюцинация». Имена, даты, цитаты и ссылки в таком ответе требуют проверки по независимым источникам. [8]

Разным системам свойственны разные ошибки. Возможность выдумать ссылку относится к модели, которая генерирует текст. У нашего классификатора другая ошибка: выбрать неверную тему из заданного списка. Нельзя по поведению одного чат-бота судить о точности распознавания речи, прогнозирования спроса или всех технологий ИИ.

Проверка должна соответствовать последствиям ошибки. Для черновика письма достаточно редакторского просмотра; для автоматического действия с важными последствиями нужны заранее определённые ограничения и возможность вмешательства человека. В примере с поддержкой можно предусмотреть передачу неоднозначного обращения сотруднику. Кто проверяет результат и что происходит при ошибке — часть устройства системы, а не свойство одной модели. [7]

Как развивался искусственный интеллект

1930–1940-е: вычисления, нейроны и обучение. Предпосылки ИИ складывались до появления самого названия. В работе, представленной в 1936 году, Алан Тьюринг описал формальную модель вычислений — машину, выполняющую операции по заданным правилам. [9] В 1943 году Уоррен Маккаллок и Уолтер Питтс показали, как сети упрощённых моделей нейронов могут реализовывать логические операции. [10] В 1949 году Дональд Хебб предложил связывать обучение с усилением связей между совместно активными нейронами. Эта гипотеза стала одной из основ нейросетевых правил обучения. [11]

1950: как обсуждать машинный интеллект. Тьюринг предложил рассматривать вопрос о мышлении машин через «игру в имитацию»: сможет ли человек по письменному общению отличить машину от другого человека. В той же статье он обсуждал обучающиеся машины и возможность воспитывать «машину-ребёнка», вместо того чтобы сразу программировать все способности взрослого. Так до Дартмута были поставлены вопросы и о проверке интеллектуального поведения, и об обучении. [12]

1955–1956: оформление исследовательской области. Джон Маккарти, Марвин Минский, Натаниэль Рочестер и Клод Шеннон использовали название Artificial Intelligence в предложении от 31 августа 1955 года о летнем проекте 1956 года в Дартмутском колледже. Программа включала язык, рассуждение, нейронные сети и обучение. Это важная организационная веха, объединившая уже существовавшие идеи. [13]

1950–1960-е: символические программы и обучаемые модели. В 1956 году Аллен Ньюэлл и Герберт Саймон описали Logic Theorist — систему поиска доказательств в символической логике. Здесь интеллект связывали с представлением знаний и выбором шагов рассуждения. [14] Другую линию развивал Фрэнк Розенблатт: в статье 1958 года он изложил модель перцептрона, способного обучаться распознаванию образов. Явно заданные правила и обучение по примерам с самого начала были разными направлениями исследований. [15]

1960–1980-е: экспертные системы. Исследователи стали создавать программы, опирающиеся на знания специалистов в узкой области. DENDRAL, развивавшийся с середины 1960-х, помогал определять структуру органических молекул по экспериментальным данным. В 1970-х MYCIN исследовали как систему рекомендаций по диагностике и лечению бактериальных инфекций. Знания представляли в виде правил, а механизм вывода применял их к конкретному случаю. Успех зависел от качества базы знаний и границ задачи. [16]

Развитие шло неравномерно. Разрыв между высокими ожиданиями и практическими результатами приводил к спадам интереса и финансирования, известным как «зимы ИИ». При этом отдельные направления продолжали развиваться; общей многолетней остановки исследований не было. [17]

1980–1990-е: многослойные нейросети. В работе 1980 года Кунихико Фукусима описал неокогнитрон — сеть, распознающую зрительные образы при изменении их положения. [18] В 1986 году Дэвид Румельхарт, Джеффри Хинтон и Рональд Уильямс показали, как обратное распространение ошибки позволяет обучать внутренние представления многослойной сети. [19] В 1998 году Ян Лекун и соавторы подробно описали свёрточную сеть LeNet-5 и её применение к распознаванию рукописных цифр. Эти работы показывают, что многослойные сети решали прикладные задачи задолго до 2012 года. [20]

1990–2000-е: обучение на данных и специализированные системы. Рост объёма доступных данных и вычислительных ресурсов расширял применение статистических методов в распознавании речи, поиске и рекомендациях. [17] Нейросети развивались наряду с другими методами: например, в работе о LeNet-5 их сравнивали с методом опорных векторов. [20] Продолжался и прогресс в поиске решений: в 1997 году Deep Blue победил Гарри Каспарова в шахматном матче, сочетая быстрый перебор вариантов с оценкой позиций. Такой результат относился к конкретной задаче — игре в шахматы. [21]

2006–2012: новые способы обучения и масштаб. В 2006 году Хинтон и соавторы предложили алгоритм послойного обучения глубоких сетей доверия — Deep Belief Networks. [22] В 2012 году Алекс Крижевский, Илья Суцкевер и Хинтон показали высокий результат распознавания изображений ImageNet с помощью глубокой свёрточной сети AlexNet. Большой набор данных, архитектура сети и вычисления на графических процессорах вместе сделали этот результат заметной вехой глубокого обучения. [23]

2016–2017: сочетание методов и архитектура Transformer. В работе об AlphaGo 2016 года нейросети, обучение на партиях людей, обучение с подкреплением в игре с собой и поиск ходов были объединены в одной системе. [24] В 2017 году Ашиш Васвани и соавторы предложили Transformer — архитектуру на основе механизма внимания — и проверили её на машинном переводе. Её варианты стали основой многих больших языковых моделей. [25] [6]

В этой истории несколько параллельных линий: работа с правилами и знаниями, поиск решений, статистическое и нейросетевое обучение. Современная система может объединять их, а её возможности по-прежнему нужно оценивать по конкретным задачам и проверяемым результатам.

Источники

1. OECD (2024). Explanatory memorandum on the updated OECD definition of an AI system.
2. McCarthy, J. (2007). What Is Artificial Intelligence? Basic Questions.
3. Lake, B. M., Ullman, T. D., Tenenbaum, J. B., & Gershman, S. J. (2017). Building Machines That Learn and Think Like People. Behavioral and Brain Sciences, 40, e253.
4. Google for Developers. What Is Machine Learning?; Datasets: Dividing the Original Dataset.
5. LeCun, Y., Bengio, Y., & Hinton, G. (2015). Deep Learning. Nature, 521, 436–444.
6. Google for Developers. Machine Learning Crash Course: Introduction to Large Language Models; What's a Large Language Model?
7. NIST (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0).
8. NIST (2024). Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. NIST AI 600-1.
9. Turing, A. M. (1936–1937). On Computable Numbers, with an Application to the Entscheidungsproblem. Proceedings of the London Mathematical Society, s2-42, 230–265.
10. McCulloch, W. S., & Pitts, W. (1943). A Logical Calculus of the Ideas Immanent in Nervous Activity. Bulletin of Mathematical Biophysics, 5, 115–133.
11. Hebb, D. O. (1949). The Organization of Behavior: A Neuropsychological Theory. Wiley; переиздание — Psychology Press, 2002.
12. Turing, A. M. (1950). Computing Machinery and Intelligence. Mind, 59(236), 433–460.
13. McCarthy, J., Minsky, M. L., Rochester, N., & Shannon, C. E. (1955). A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence.
14. Newell, A., & Simon, H. A. (1956). The Logic Theory Machine: A Complex Information Processing System. RAND, P-868.
15. Rosenblatt, F. (1958). The Perceptron: A Probabilistic Model for Information Storage and Organization in the Brain. Psychological Review, 65(6), 386–408.
16. Buchanan, B. G., & Shortliffe, E. H. (eds., 1984). Rule-Based Expert Systems: The MYCIN Experiments of the Stanford Heuristic Programming Project. Addison-Wesley, глава 1.
17. Stone, P., et al. (2016). Appendix I: A Short History of AI. Artificial Intelligence and Life in 2030, Stanford University.
18. Fukushima, K. (1980). Neocognitron: A Self-Organizing Neural Network Model for a Mechanism of Pattern Recognition Unaffected by Shift in Position. Biological Cybernetics, 36, 193–202.
19. Rumelhart, D. E., Hinton, G. E., & Williams, R. J. (1986). Learning Representations by Back-Propagating Errors. Nature, 323, 533–536.
20. LeCun, Y., Bottou, L., Bengio, Y., & Haffner, P. (1998). Gradient-Based Learning Applied to Document Recognition. Proceedings of the IEEE, 86(11), 2278–2324.
21. IBM. Deep Blue. История системы и шахматного матча 1997 года.
22. Hinton, G. E., Osindero, S., & Teh, Y.-W. (2006). A Fast Learning Algorithm for Deep Belief Nets. Neural Computation, 18(7), 1527–1554.
23. Krizhevsky, A., Sutskever, I., & Hinton, G. E. (2012). ImageNet Classification with Deep Convolutional Neural Networks. Advances in Neural Information Processing Systems, 25.
24. Silver, D., et al. (2016). Mastering the Game of Go with Deep Neural Networks and Tree Search. Nature, 529, 484–489.
25. Vaswani, A., et al. (2017). Attention Is All You Need. Advances in Neural Information Processing Systems, 30.