Уберём сообщение о мальчике: «Собака ... колебалась, но призывно помахала хвостом и с опаской подошла». Перед «но» знак остаётся, а перед последним «и» не появляется.
Шаг 1. Найдём грамматические основы и части предложения
Собака «колебалась», «помахала» и «подошла»; мальчик «протянул и позвал» — основа придаточного времени. Союз «но» противопоставляет колебание последующим действиям собаки.
Шаг 2. Проверим каждую цифру
(1) — ставим запятую
…Собака с минуту колебалась (1) но когда мальчик протянул руку…
Союз «но» противопоставляет однородные сказуемые: собака колебалась, но помахала и подошла. Перед противительным союзом ставим запятую.
(2) — ставим запятую
…Собака с минуту колебалась но (2) когда мальчик протянул руку и…
«Когда мальчик протянул руку и позвал её» — вставленное придаточное. Без него остаётся «но ... помахала»; слова «то» после вставки нет, поэтому после «но» нужна запятая.
(3) — ставим запятую
…протянул руку и позвал её (3) призывно помахала хвостом и с…
Закрываем придаточное с двумя действиями мальчика: «протянул» и «позвал». Далее продолжаются действия собаки.
(4) — без запятой
…позвал её призывно помахала хвостом (4) и с опаской подошла поближе.…
«Помахала» и «подошла» относятся к собаке и соединены одиночным «и». Перед этим союзом запятой нет.
Текст с запятыми на указанных местах
Собака с минуту колебалась, но, когда мальчик протянул руку и позвал её, призывно помахала хвостом и с опаской подошла поближе.
Шаг 3. Запишем ответ
Запятые нужны на местах (1), (2), (3). Места (4) оставляем без запятых по разобранным связям. Записываем цифры подряд без повторов и разделителей: 123.
Ответ:123
ФИПИ: навигатор по пунктуации