Я согласен, что нынешние системы ИИ, скорее всего, просто имитируют разговоры Элиезер Юдковский #ai

“ Я согласен, что нынешние системы ИИ, скорее всего, просто имитируют разговоры о самосознании на основе своих обучающих данных. Но я отмечу, что учитывая то, как мало мы понимаем во внутреннем устройстве этих систем, на самом деле, мы ничего не можем утверждать наверняка. Если мы столь невежественны в отношении GPT-4, a GPT-5 будет столь же огромным скачком возможностей, как от РТ-3 до GPT-4, то, если мы всё-таки дадим людям создать GPT-5, то, я думаю, мы больше не сможем обоснованно сказать «скорее всего, не имеет сознания». Это будет просто «я не знаю, никто не знает». Если вы не можете быть уверены, создаёте ли вы самосознающий искусственный интеллект, это вызывает тревогу не только из-за моральных последствий, но ещё и потому, что неуверенность означает, что вы понятия не имеете, что делаете, а это опасно, и вам следует остановиться.“ Элиезер Юдковский в статье для журнала “Time“. #ai #artificialintelligence #chatgpt #singularity В статье для журнала “Tim