«Измерять и навязывать»: как человеческий труд повлиял на создание ИИ

Обычно, когда начинаются разговоры о социальном влиянии искусственного интеллекта, их сводят к восстанию машин или потере миллионами людей рабочих мест. Итальянский философ Маттео Пасквинелли в своей монографии рассуждает о том, как внедрение нейросетей влияет на принятое разделение ручного и умственного труда, почему автоматизация невозможна без социального интеллекта и задается вопросом о справедливом разделении благ от использования машин.

Кто автор

Матео Пасквинелли — доцент факультета философии и культурного наследия в Университете Ка’ Фоскари в Венеции. Его исследования сосредоточены на пересечении политической экономии и автоматизации знаний и культурного производства. Он преподавал в Институте Пратта в Нью-Йорке и в Университете искусств и дизайна Карлсруэ, где основал исследовательскую группу по искусственному интеллекту и философии СМИ. Его монография «Измерять и навязывать. Социальная история искусственного интеллекта» вызвала интерес далеко за пределами академической среды и переведена на арабский, китайский, французский, немецкий, греческий, итальянский, корейский, русский и турецкий языки.

О чем книга

Хотя автор дает достаточно подробный экскурс в историю развития «умных» машин, ключевые идеи книги лежат не в области технологий, а в поле социальных наук.

Технологический детерминизм

Пасквинелли оспаривает существующую точку зрения о науке и технологиях как ключевых силах, определяющих развитие общества. Он утверждает, что на протяжении всей промышленной истории человечества большинство усовершенствований и решений, стимулирующих экономическое развитие, рождались не в университетах, а в цехах.

Итальянский философ считает, что любой труд, и ручной, и умственный, является интеллектуальным: даже механические действия сопровождаются десятками и сотнями микрорешений, которые принимает рабочий или водитель грузовика. По мнению Пасквинелли, труд является инструментом познания: овладение новыми навыками, их совершенствование, оценка качества собственной работы — все это является разумной деятельностью. Именно умственная составляющая позволила выделить отдельные этапы производственного процесса, так появилось разделение труда.

Автоматизация и внедрение ИИ стали возможными только после многих веков все более углубленного разделения труда. Именно оно позволило совершить первый серьезный скачок производительности и привело к выделению функции управления.

Хозяйский глаз

Важным элементом первых мануфактур стал «хозяйский глаз», который направлял и контролировал рабочий процесс. По мере глобализации экономики управлять становилось труднее. Требовались новые способы коммуникации и оценки. Управление трудом на мануфактуре легко укладывалось в простую блок-схему и оценивалось по часам, но визуализировать и количественно оценить производственные процессы на уровне завода или целого региона прежними методами было невозможно. «Разумности» фабричного хозяина было уже недостаточно, теперь требовалась коммуникационная инфраструктура.

В дальнейшем «хозяйский глаз» модернизировался в новые технологии контроля, например, статистику. В наше время надзор и управление приобрели «цифровые формы», от поисковых алгоритмов и социальных сетей до платформ гиг-экономики, и, в конечном счете, нейросетей, которые все шире используются для автоматизации всех упомянутых сервисов.

Статистика и контроль

Предки современных ИИ-систем создавались и разрабатывались для государственных нужд — сбора и обработки «больших данных» об обществе, его нуждах и поведении. В Англии XIX века компьютерами называли не машины, а «вычислителей», людей, которые выполняли вручную утомительные расчеты для правительства, Астрономического общества и британского флота. Техники анализа данных продолжают развиваться в современных ИИ системах, позволяя глобальному бизнесу осуществлять функции надзора и прогнозирования.

«Хозяйский глаз» оказался вполне заменим ИИ, однако интеллектуальная составляющая «ручной работы», то самое незаменимое разумное звено, присущее человеческому труду, пока, по мнению Пасквинелли, не имеет машинной альтернативы.

Вопрос о машинах

Внедрение ИИ возвращает на повестку дня вопрос о машинах, вызывавший бурные дискуссии более века назад, во времена второй промышленной революции. Тогда в обществе уже происходили серьезные перемены, в связи с механизацией, появившимся делением на квалифицированный и неквалифицированный труд и новой социальной иерархией. Внедрение машин привело к возникновению новых профессиональных ролей, направленных на их обслуживание и развитие, от инженеров до рабочих специальностей.

Рабочие восставали против машин, нападали на фабричные цеха, чтобы уничтожить станки. Результатом этого протеста стали публичные дебаты: общество требовало больше информации о машинах. Рабочие протестовали против быстрой, «одним днем» замены станками и поднимали вопрос о справедливом распределении благ автоматизации: «машина может облегчить труд и увеличить время отдыха многих вместо того, чтобы увеличивать прибыль немногих». Оба тезиса остаются актуальными и сейчас, в эпоху четвертой промышленной революции.

Цитаты

• «Коллективные знания и труд — главный источник той самой «разумности», которую извлекает, кодирует и превращает в товар ИИ».
• «С XIX по XX век «хозяйский глаз» промышленного капитализма охватил все общество и установил новые формы контроля, основанные на статистических измерениях «интеллекта», с целью дискриминировать рабочих по уровню навыков. Результаты теста IQ применялись именно так: американский психолог Льюис Терман в 1919 году заявлял, что «IQ 75 или ниже обычно относится к неквалифицированным рабочим, от 75 до 85 — диапазон для полуквалифицированного труда, а показатели 80 или 85 вполне достаточны для успеха в некоторых видах квалифицированного труда». ИИ продолжает кодировать социальные иерархии и дискриминировать рабочую силу, косвенно навязывая метрики разумности».
• «Важнейшей составляющей труда служат не энергия и движение, которые легко автоматизировать, а знания и интеллект, которые и в эпоху ИИ далеко не полностью автоматизированы».

Зачем читать книгу

Книга будет интересна всем тем, кто профессионально занимается вопросами, связанными с ИИ: от студентов магистратуры, готовящих научные работы в этом предметном поле до инженеров, заинтересованных в новых идеях из смежной, философской области знаний.