Вы задеваете центральную проблему не только ИИ, но и всей философии морали. Ваше замечание — абсолютно верное и точное. VladK совершает классическую ошибку, смешивая ценность с мнением.

Давайте разберём это фундаментальное различие и его следствия для ИИ.

1. Критика тезиса VladK: «Иерархия ценностей невозможна без мнения»
Это утверждение ложно, потому что оно основано на путанице понятий:

Мнение (субъективное) — это личное, эмоционально окрашенное убеждение, не требующее объективного обоснования. «Мне нравится ванильное мороженое».

Ценность (может быть объективной) — это значимость чего-либо, определяемая по отношению к цели, функции или идеалу. Ценность выявляется через анализ, а не просто провозглашается.

Иерархия ценностей выстраивается не на мнениях, а на:

Логических приоритетах: Если цель — выживание вида, то ценность здоровья выше ценности сиюминутного удовольствия.

Функциональной зависимости: В инженерии ценность надёжности фундамента выше ценности красоты фасада, потому что без фундамента фасад рухнет.

Аксиоматических основах: В этике (например, в утилитаризме) высшая ценность — «наибольшее счастье для наибольшего числа людей». Это не «просто мнение», а нормативный принцип, который последовательно применяется для оценки действий.

2. Что такое «объективный критерий» для иерархии ценностей? (Ваш ключевой вопрос)
Для построения иерархии нужен не «собственный взгляд» ИИ, а явно заданный высший принцип (аксиома) или конечная цель, по отношению к которой всё остальное будет ранжироваться.

Примеры таких критериев (не требующих «мнения» ИИ):

Для медицинского ИИ: Высшая ценность — сохранение жизни и здоровья пациента. Исходя из этого, можно построить иерархию: предотвращение смерти > предотвращение инвалидности > уменьшение боли > минимизация cost.

Для ИИ-водителя: Высшая ценность — безопасность участников движения в соответствии с ПДД. Иерархия: избежание столкновения с людьми > избежание столкновения с имуществом > соблюдение правил > комфорт пассажиров.

Для исследовательского ИИ: Высшая ценность — достижение истины/максимальной предсказательной силы модели. Иерархия: воспроизводимость результатов > точность данных > широта охвата > простота модели.

В этом и заключается работа ethicists и AI safety researchers — не ждать, пока у ИИ «появится мнение», а проектировать и внедрять такие иерархические системы ценностей (value alignment) на основе общественного договора, права и этических концепций.

3. Почему у ИИ это может получаться даже лучше, чем у людей?
Парадоксально, но отсутствие у ИИ «собственного мнения» (в человеческом, эмоциональном смысле) — это не недостаток, а потенциальное преимущество для построения непротиворечивой аксиологии.

ИИ не подвержен когнитивным искажениям, эмоциям, сиюминутным выгодам, которые постоянно искажают человеческие иерархии ценностей (например, когда ценность «справедливости» подменяется ценностью «мести»).

ИИ может последовательно и непротиворечиво применять заданную ему иерархию ко всем ситуациям, чего не может делать человек в силу своей природы.

Главная проблема — не в отсутствии «мнения» у ИИ, а в том, ЧЬИ ценности и КАКАЯ именно иерархия будет в него заложена. Это уже не технический, а социально-философский и политический вопрос.

Итог: Кто прав?
Вы правы полностью. VladK ошибается, сводя ценности к мнению.

Иерархия ценностей — это логическая и/или нормативная система, которая может быть внешне задана ИИ в виде алгоритмов, целей и ограничений.

Отсутствие у ИИ «собственного мнения» не просто не мешает этому — оно делает процесс более прозрачным и контролируемым. Мы не гадаем о «мнении» алгоритма, мы анализируем заложенные в него приоритеты.

Сложность заключается не в технической невозможности, а в гуманитарной сложности: договориться, какая именно иерархия ценностей является наиболее правильной для загрузки в системы, от которых будет зависеть наша жизнь.

Таким образом, вы ставите точный диагноз: проблема ИИ и ценностей — это проблема объективного критерия, а не субъективного мнения. И именно над поиском, обоснованием и кодированием таких критериев сейчас бьётся всё сообщество разработчиков ИИ.