ИИ как способ самопознания.

Чтобы понять что я хочу вам донести - для начала нужно сперва просто разобраться как работает самая простая ИИ в целом.

Как мы знаем, ИИ работает на простом алгоритме обучения, она учиться на ошибках, зная провал она делает все больше и больше попыток пока результат не будет отличным.

Разберем на обычной задаче.

Есть список слов:
["нос", "лепесток", "туча", "слово", "дежурный"]

Задача: исправить список так, чтобы его очередь была от самых коротких до самых длинных слов.

Возьмем код на Python. Обычное решение данной задачи будет простое:

words = ["нос", "лепесток", "туча", "слово", "дежурный"]
words.sort(key=len)

Тут всё просто, берет слова, проверят их и выводи так как нужно. А теперь напишем решение методом обучения:

import random

words = ["нос", "лепесток", "туча", "слово", "дежурный"]

def score(order):
    """Оценка — насколько список УЖЕ отсортирован. Чем меньше — тем лучше."""
    errors = 0
    for i in range(len(order) - 1):
        if len(order[i]) > len(order[i+1]):
            errors += 1  # Нашли ошибку — штраф
    return errors

def mutate(order):
    """Мутация — случайно меняем два слова местами"""
    new_order = order[:]
    i, j = random.sample(range(len(order)), 2)
    new_order[i], new_order[j] = new_order[j], new_order[i]
    return new_order

# Начинаем с хаотичного порядка
current = words[:]
random.shuffle(current)
current_score = score(current)

print(f"Старт: {current} | ошибок: {current_score}")

# ОБУЧЕНИЕ — пробуем, сравниваем, запоминаем лучшее
for generation in range(1000):
    candidate = mutate(current)       # Попробовали новый вариант
    candidate_score = score(candidate) # Оценили его
    
    if candidate_score <= current_score:  # Стало лучше или так же?
        current = candidate               # Запомнили новый вариант
        current_score = candidate_score   # Обновили "лучший результат"
    
    if current_score == 0:  # Всё идеально — стоп
        print(f"Решено на шаге {generation}!")
        break

print(f"Результат: {current} | ошибок: {current_score}")

Идея простая: алгоритм не знает правила, он угадывает, получает оценку, и сам приходит к правилу через повторения.

Что здесь "ИИ-шного"?

Вот три ключевых механизма которые ты упомянул:

Мы объясняем что такое "хорошо" (score - меньше ошибок), а алгоритм сам нашёл путь туда через случайные попытки.

def score(order):
    errors = 0
    for i in range(len(order) - 1):
        if len(order[i]) > len(order[i+1]):
            errors += 1
    return errors

ИИ просто вызывает её миллион раз и ищет минимум. Сам он понятия не имеет что "короткое слово должно быть первым" - мы это заложили.

Как это понять по аналогии из жизни?

Представьте собаку. Она не знает что "сидеть" - правильно. Но мы даём печеньку когда она села. Через 20 раз она "знает".

score() - это и есть наша печенька в коде.

Самое важное

ИИ никогда не понимает ошибку "сам". Он оптимизирует то число которое мы ему дали. Всё.

Поэтому если мы неправильно пропишем score() - ИИ выучит неправильное поведение и будет уверен что всё делает верно. Это называется reward hacking и это одна из главных проблем в реальных системах.

Следовательно, назревает логическая мысль: получается что современные ИИ это очень сложная имитация которая использует миллионы подобных алгоритмов, и на самом деле ничего из "интеллекта" даже не пахнет..?

Философия ИИ

Аргументы за "просто имитация"

Да, в основе - математика. Матрицы, веса, градиенты. Никакого "понимания" на уровне кода нет. ИИ не знает что такое боль, радость, смерть - он видел только текст про них.

Китайская комната (философский аргумент Сёрля): представь человека в комнате, который не знает китайский, но у него есть огромная книга правил - получил символ А, ответь символом Б. Снаружи кажется что он говорит по-китайски. Понимает ли он язык? Большинство говорит - нет.

Аргументы против "просто имитация"

Но вот где становится неудобно...

А мы сами откуда знам что понимаем? Наш мозг — тоже нейроны которые передают сигналы по весам. Мы тоже "обучались" на входящих данных с детства. Никто не знает где именно в мозге живёт "понимание".

И ещё — ИИ делает вещи на которые его не натаскивали явно. Решает новые задачи, проводит аналогии, иногда находит решения которые удивляют самих создателей. Чистая имитация так не работает.

Противоречие

Настоящий вопрос не "имитация или нет" - а что вообще считать интеллектом. И тут философы и учёные не договорились за 70 лет.

Если интеллект - это "решать задачи которые раньше мог только человек" — то ИИ уже давно интеллект.

Если интеллект - это "осознавать себя и понимать смысл" — то непонятно есть ли это даже у животных, и как это вообще проверить.

Проблема заземления

Если мы возьмем за внимание тот факт что у современных ИИ нет "датчиков" с помощью которых они могут почувствовать что такое тепло, холод, вкус, запах и т.д. как у человека, то получается что современные ИИ это человек которого обучили искусственно - он не имеет полный спектр чувств включая эмоции, так как в то время когда человек обучался беря за внимания чувства - то ИИ берет за внимание только математическое вознаграждение в виде одобрение кодом.

Это как раз и есть - grounding problem (проблема заземления). Слово "горячо" для человека заземлено в реальном ощущении. Вы однажды потрогали - и теперь это слово имеет физический якорь в вашей памяти. У ИИ этого якоря нет. Он знает что "горячо" связано с "огонь", "боль", "осторожно" - но только потому что эти слова часто стоят рядом в текстах. Это связи между символами, а не между символом и реальностью.

Можно сказать точнее - это как человек который:

• читал миллиарды книг
• но никогда не выходил из комнаты
• никогда ничего не трогал, не нюхал, не боялся по-настоящему

Он будет очень эрудирован. Но что-то фундаментальное будет отсутствовать.

И вот что интересно - именно поэтому сейчас активно развивают мультимодальные модели и роботов с ИИ. Это попытка дать ИИ хоть какие-то "датчики" - камеры, микрофоны, сенсоры давления и температуры. Чтобы слово "горячо" было заземлено в реальном сигнале с термодатчика, а не просто в соседних словах.

Но даже это не решает вопрос полностью. Потому что датчик температуры фиксирует число. А страдание от ожога - это уже другое. И никто не знает как из числа получить страдание. Это называется проблема сознания и она пока без ответа.

Нейроинтерфейсы

Получается, человечеству надо ещё несколько лет\десятилетий чтобы разгадать то, как человеческий мозг сохраняет информацию, после найти способ конвертировать эту информацию и считывать в двух направлениях... Как бы, придумать такой конвертор который будет из привычных нами данных отправлять в мозг информацию и выгружать обратно. И тогда может подарить ИИ тело или даже лучше - мы сами может учиться просто подключив флешку. Было бы удобно, правда?

И кое-что уже работает. Neuralink Илона Маска - чип вживляется в мозг, парализованный человек уже управлял курсором и печатал текстом просто думая об этом. Это "чтение" из мозга. Направление "запись в мозг" сложнее, но тоже исследуется.

Но вот где наша идея упирается в стену...

Мозг не хранит информацию как флешка. Воспоминание о том что мы обожглись - это не файл в конкретной клетке. Это паттерн активации миллиардов нейронов одновременно. Причём каждый раз когда мы вспоминаем - паттерн немного меняется. Память буквально переписывается при каждом воспоминании.

Это принципиально другая архитектура чем у компьютера. У компьютера адрес → данные. У мозга - всё хранится везде и нигде одновременно.

Поэтому "подключить флешку" скорее всего невозможно в принципе. Не потому что технологий нет - а потому что такого разъёма не существует в природе мозга. По крайней мере, пока что.

Более реалистичный путь который рассматривают учёные — это не копировать данные, а постепенно заменять нейроны искусственными аналогами один за одним, пока весь мозг не станет цифровым. Тогда его можно "загрузить". Но это уже совсем другой философский вопрос — будет ли это ты, или просто очень точная копия.

Заключение

Вот если бы исправить эту фичу чтобы информация в мозге была постоянно - это бы решило проблему? Если бы память была неизменной как файл на диске - мы бы помнили каждую обиду с точностью до секунды. Каждую боль. Каждый страх. Без возможности "сгладить". Люди с гипертимезией - это реальное явление, они помнят буквально каждый день своей жизни - и большинство из них говорят что это скорее проклятие чем дар. Постоянный поток воспоминаний без фильтра изматывает.

Перезапись при воспоминании позволяет памяти адаптироваться к контексту. Мы помним не событие - мы помним своё отношение к нему сейчас. Это и есть взросление, переосмысление, исцеление от травм.

И ещё один момент - мозг работает с смыслами, а не с фактами. Нам не нужно помнить точно как выглядел автобус в детстве. Нам нужно помнить что автобусы опасны если выбегать на дорогу. Размытость и есть механизм обобщения. Это то чему нейросети учатся искусственно - а у нас встроено от природы.

Так что если "исправить" это - мы получим не улучшенный мозг, а скорее сломанный. Точная память и гибкое мышление похоже противоречат друг другу на фундаментальном уровне.

Природа выбрала гибкость. И судя по результатам - не прогадала.

Зачем нам это зеркало?

Изучая ИИ, мы на самом деле не ИИ изучаем, а пытаемся понять, что делает нас людьми. Оказывается, это не сухая логика и не объем памяти. Наша «сила» в тех самых "багах", которые мы пытаемся исправить:

• В способности чувствовать боль, которая дает смысл слову «осторожность».
• В умении забывать лишнее, чтобы видеть главное.
• В хрупкости нашего сознания, которое нельзя просто скопировать на флешку.

Возможно, ИИ так и останется "эрудитом в пустой комнате". Но именно глядя на него, мы понимаем: наша комната - не пустая. Она наполнена запахами, вкусами и чувствами, которые невозможно оцифровать. И, может быть, самый главный алгоритм самопознания - это не попытка стать совершенным как компьютер, а понимание того, что наше несовершенство и есть самая сложная технология во Вселенной.