И ещё вопрос, как кодируется глубина цвета, ведь RGB принимает значения от 0 до 255 где глубина?

Под глубиной обычно понимают то, на сколько можно разбить диапазон цвета от максимума до минимума. FF или 256 - это и есть глубина, где один канал можно разбить на 256 значений (2 байта или 16 бит на канал). Если можно разбить на 1024 значения, то глубина цвета 10 бит. Для человека легче воспринимать десятичные числа, чем 16-ричные. Но в некоторых случаях удобно подставлять сразу 16-ричные.

Максимум и минимум обычно не изменяются - максимум любого канала (красный, синий или зелёный) это белый, а минимум - это чёрный. Из-за этого, кстати, значения вблизи максимумов и минимумов для любого канала очень похожи, почти совпадают (белая область на круговом спектре и серая - на квадратном), что означает, что вы тратите ёмкость переменной, хранящей цвет, зря.

Можно оптимизировать, кодируя каналы вблизи максимумов и минимумов с меньшей градацией, чем в середине диапазона каждого канала. А можно кодировать не каналы, а другие параметры цвета, типа оттенка, насыщенности и яркости (hue, saturation, luminosity). Но для железа обычно всё приводится всё равно к RGB или подобному. Способы кодировки это форматы цвета. В Юнити например, их много можно выбрать для текстур