Специальное назначение
Процессор внутри настольного компьютера — «универсальный солдат». Он может считать деньги, показывать кино, монтировать фильмы, записывать музыку. Но в мире чипов есть и «узкие специалисты», которые умеют делать что-то одно — зато лучше всех
GPU: Графические чипы
Грандиозным скачком в развитии искусственного интеллекта человечество обязано… компьютерным играм — ведь это ради них создали графические процессоры. Требования к уровню графики стремительно росли, и для обсчета фотореалистичных теней, текстур и фонов разработали специальные чипы. Они менее универсальны, чем центральные процессоры, зато позволяют прогонять большие объемы данных через одну и ту же череду сложений и умножений, разделяя их на множество одновременно обрабатываемых потоков. Оказалось, именно этого не хватало для революции в машинном обучении. Так что за каждым метким ответом Алисы стоит человек, положивший годы своей юности на World of Tanks.
TPU: Тензорные чипы
Если на графических чипах так хорошо обучаются нейросети, то что же будет, если создать специальную архитектуру именно для обучения нейросетей? Так появились тензорные процессоры, которые заточены под специфику Deep Learning (глубокого машинного обучения). Как и в графических процессорах, здесь пришлось отказаться от универсальности чипа и сложных операций. Кроме того в тензорных процессорах пожертвовали разрядностью чисел: вместо обычных 32 или 64 бит числа здесь представляются 8 битами. Это позволяет на порядок увеличить скорость обучения нейросети, не теряя при этом в качестве результата.