“bullshit n. & v. coarse sl.—n. 1 (Often as int.) nonsense, rubbish. 2 trivial or insincere talk or writing.—v. intr. (-shitted, -shitting) talk nonsense; bluff. bullshitter n.”
Oxford English Dictionary
“It is just this lack of connection to a concern with truth — this indifference to how things really are — that I regard as the essence of bullshit.”
Harry Frankfurt
“… безразличие (Indifference) к истине (truth) чрезвычайно опасно. Ведение цивилизованной жизни и жизнеспособность институтов, которые незаменимы (indispensable) для нее, в корне зависят от уважения к различию между истинным и ложным. Если авторитет этого различия подрывается распространением буллшыта и бездумным легкомыслием, принимающим распространение буллшыта за безобидное, то незаменимое человеческое сокровище оказывается разбазаренным (squandered). Невразумительность (Unintelligibility) несет свою вину на лице (bears its fault on its face) так, как не несет её ложь. По этой причине, даже без учета всего остального, она менее коварна. Бессмыслица (nonsense), порождаемая нерадивыми, претенциозными или глупыми учеными, может раздражающе отвлекать от продуктивных исследований и препятствовать интеллектуальному прогрессу. Я не хочу сбрасывать её со счетов как несущественную. Однако мне кажется, что вред, наносимый отсутствием заботы об истине, – это более глубокая и насущная проблема.”
— Harry Frankfurt
В человеческой психологии «конфабуляция»* возникает, когда в чьей-то памяти есть пробел, и мозг убедительно заполняет его, не намереваясь обманывать других. ChatGPT работает не так, как человеческий мозг, но термин «конфабуляция», вероятно, служит лучшей метафорой, поскольку здесь действует творческий принцип заполнения пробелов […].
* Конфабуляция - это создание ложных воспоминаний при отсутствии намерения обмануть. Конфабулирующие люди не осознают, что информация, которую они передают другим, сфабрикована. Конфабулирующие люди не намеренно вводят в заблуждение и искренне верят в то, что сообщаемая ими информация подлинная и точная.
Confabulation: A Guide for Mental Health Professionals
LLM’ки (Крупные языковые модели) создают человекоподобный текст. Они не думают, там нет никаких интенций, целей. Они просто оценивают вероятность того, что определенное слово появится следующим, учитывая предыдущий текст на основе статистики.
Цель языковых моделей – дать нормальный, на первый взгляд, ответ на промпт, а не передать полезную для собеседника информацию.
Нужны ссылки? Будут. Нужны аргументы? Будут. Но стоять ща ними будет не человеческий интеллект, а статистический подбор вариантов.
- Bullshit (general): Любое высказывание (utterance), в котором говорящий безразличен к истинности высказывания.
- Hard bullshit: Буллшыт произнесенный с намерением ввести аудиторию в заблуждение относительно целей автора.
- Soft bullshit: Буллшыт, произнесенный без намерения ввести слушателя в заблуждение относительно его намерений.
Машины не галлюцинируют.
Просто потому, что там некому видеть то, чего нет. Потому, что там никого нет.
Есть ли у ChatGPT, гугловского Барда, LlaM’ы Мета или Claude от AnthropicAI то, что Дэниел Деннет называл Intentional stance?
«Принять интенциональную позицию […] значит решить – конечно, предварительно – попытаться охарактеризовать, предсказать и объяснить […] поведение, используя интенциональные идиомы, такие как „верит“ и „хочет“, – практика, которая предполагает или предполагает рациональность» целевой системы”.
Ахинея, чушь, бред, херня, буллшыт, пиздёж, жыпытло, которые выдаёт ЛЛМка ради связности и стройности, пока что не очень вписываются в концепцию злого умысла — у алгоритма нет интенций.
Они есть у авторов и разработчиков.
Индифферентность, безразличие к истине, не говоря уже о сознательном умалчивании или её искажении, пока что, к счастью, свойственны в полной мере только человеку.
Когнитивно киборгинвалидизируясь вы берёте на себя ответственность, которую инженеры с себя сняли.
Сама виновата, промптомакака.
