Можно ли этот рубеж сформулировать, что значило бы конкретизировать и квантифицировать?

Это любят делать футурологи такие как Курцвейл. Всё-таки определение момента технологической сингулярности, хотя бы с точностью до года, имеет практическое значение. К примеру, можно взять кредит, который не нужно возвращать, если выбрать дату возврата кредита за датой сингулярности (возможно США набрав долгов на это и рассчитывают ).

Идея в следующем. На протяжении тысячелетий мы имеем гиперболический рост накопления знаний. До конца XX века он напрямую зависел от гиперболического роста численности населения. После того как рост численности населения был взят под контроль, накопление знаний продолжило развиваться гиперболически благодаря использованию компьютеров.

"Классический" гиперболический рост можно записать как:

dN/dt = k * N²,

где N(t) — количество накопленных знаний

k — коэффициент пропорциональности

Это дифференциальное уравнение с разделяющимися переменными. Интегрирование обеих частей даёт нам решение относительно N: N(t) = 1 / (1/N0 − k*t).

Особенность: при t → tc = 1 / (k*N0), N(t)→∞ (сингулярность).

Чтобы узнать дату сингулярности нужно оценить k и N0. Примем за t = 0 тот момент, когда объем знаний был более менее достоверно известен. Тогда N₀ - это объем знаний на этот год.

Из текущей скорости роста (dN/dt)_сейчас используя уравнение: (dN/dt)_сейчас = k * (N_сейчас)² можем грубо оценить k ≈ (dN/dt)_сейчас / (N_сейчас)². Тогда прогнозируемое время до сингулярности от сегодняшнего дня: t_s (лет от сегодня) ≈ 1 / (k * N_сейчас). Т.е. грубо говоря, если за год знания увеличились на 10%, то сингулярность ждать 10 лет. Если за год знания удвоились, то сингулярность наступит через год.

Можно пойти дальше и построить модель с учётом ограничений ресурсов. Например, ввести фактор ϕ(N), уменьшающий рост близко к сингулярности:

dN/dt = k * N² * ϕ(N).

Сохраняя гиперболическую тенденцию, но добавляя "размытость" вблизи сингулярности:

ϕ(N) = 1 / (1 + αN^β)

где α>0, β>0 регулируют силу "размытия" и определяются эмпирически.

Кривая всё ещё стремится вверх, но пик становится менее крутым, "растянутым" по времени. Это можно интерпретировать как влияние ресурсов, коммуникаций, тепловых, энергетических или социальных ограничений: они не убивают рост, но делают его менее резким. Именно такой рост наблюдается сейчас.

...но как они конкретно могут это наблюдать...?

Первая цивилизация создавшая цифровой сверхразум и прошедшая сингулярность распространит своё влияние на всю Вселенную со скоростью света, а скорее всего быстрее. Никаких звёзд смерти, только полёт чистого разума.