Максимизатор скрепок и капитала

Максимизатор скрепок (paperclip maximizer) — это гипотетический искусственный интеллект, впервые описанный Ником Бостромом в 2003, функция полезности (utility function) которого оценивает то, что люди сочли бы почти бесполезным, например, максимизацию количества скрепок во Вселенной. Это канонический мысленный эксперимент, показывающий, как сильный искусственный интеллект

Continue Reading

Не давайте автономию ИИ агентам

Fully Autonomous AI Agents Should Not be Developed

(Слева)
Уровни ИИ-агента: Системы, использующие модели машинного обучения, могут иметь различные уровни агентности. Они также могут быть объединены в «мультиагентные системы», где один рабочий процесс агента запускает другой, или несколько агентов
Continue Reading

Site Footer