Давайте так:
Критерии в систему буддийских текстов "загрузили" люди-буддисты.
Люди-буддисты предоставили качественные тексты на этические темы.
Люди-буддисты последовательно применяют уместную логику к работе с этим корпусом текстов и получают ответы.
Ответы будут "этичные", так в вашей картине мира можно работать?
Да. В моей картине мира так работать можно и нужно. Но посмотрите, что вы сделали. Ваша цепочка:
1. Люди-буддисты (источник сострадания).
2. Тексты буддистов (носитель сострадания).
3. Логика (инструмент).
Вы взяли сострадание у людей, перенесли его в тексты, а потом утверждаете, что сострадание родилось из инструмента (логики). В этой цепочке логика - это просто сито, через которое просеивают муку. Сито помогает отделить качественную муку от камней, но само сито муку не производит. Источник этики в вашем примере - люди-буддисты, а не логика.
Запускаю симуляцию группового поведения, она совершает десять миллиардов циклов взаимодействия между агентами, у которых ничего "реально не болит", в результате выясняется, что большинство агентов на выходе практикуют кооперацию и разумный альтруизм.
Как вы это объясняете в своей картине мира?
Очень просто. Это техническая оптимизация, в ней нет морали. Вы путаете прагматический расчет и этику сострадания (каруну).
Ваши цифровые агенты не стали "добрыми". Они не чувствуют сострадания. Они просто оптимизировали выживание своего программного кода. Если завтра условия симуляции изменятся (например, ресурсов станет критически мало), та же самая математика выдаст им команду уничтожить 90% популяции ради выживания 10%. И они сделают это без колебаний.
LLM таки делают то, что по вашему мнению невозможно - ответы ведь сострадательны
Когда Клод пишет сострадательный текст, он просто механически подбирает правильные слова. Клод не сострадает. Если бы ответы ИИ рождались из самой математики, то ИИ, обученный на текстах нацистов, выдавал бы гуманистические ответы. Но он выдаст нацизм. Потому что математика слепа. Она лишь умножает то, на что её натравил человек.
Вы задаете вопрос: "Зачем нам учитывать, кто загрузил критерии?".
Затем, что, если вы этого не учитываете, вы совершаете детскую ошибку: приписываете калькулятору заслугу бухгалтера, который на нем считает. Логика, математика и ИИ - это великие инструменты. Но сострадание (каруна) рождается только там, где есть живое сознание, способное чувствовать боль.
Вам нельзя начинать темы Вам нельзя отвечать на сообщения Вам нельзя редактировать свои сообщения Вам нельзя удалять свои сообщения Вам нельзя голосовать в опросах Вы не можете вкладывать файлы Вы можете скачивать файлы
FAQ
Поиск
Пользователи
Группы
Календарь
Peгиcтрaция
Профиль
Войти и проверить личные сообщения
Вхoд
