Еще в 1928 году Михаил, в 18 лет, стал чемпионом Украины по кроссу на 30 километров со временем, которое и сейчас поражает мастеров велоспорта − 56 минут 12,8 секунды. И это при том, что по условиям соревнований спортсменам пришлось два километра ехать по пересеченной местности в противогазах.

С 1931 года Рыбальченко — участник сборной страны по шоссейным гонкам, а в 1934 завоевывает первое место в Союзе в парной гонке по треку.

В 1935, вместе с четырьмя киевскими динамовскими одноклубниками, Михаил совершил беспримерный в истории мирового спорта велопробег Одесса — Владивосток. А через месяц после возвращения из пробега завоевал звание чемпиона СССР в так называемой получасовой трековой гонке.

Осенью 1936 года проходили очередные соревнования между советскими и турецкими спортсменами. На этот раз наряду с футболистами, борцами и фехтовальщиками впервые в составе спортивной делегации Турции прибыли в Советский Союз велосипедисты. Все три командные стокилометровые шоссейные гонки в Москве, Ленинграде и Киеве выиграли тогда турецкие спортсмены. Поражения лучших советских велосипедистов в этих международных встречах и явились причиной того, что уже через месяц Украинским спорткомитетом было принято решение о проведении республиканской кольцевой велогонки с использованием опыта ежегодных традиционных гонок по Франции, известных под названием «Тур де Франс». Вся сложность задуманного мероприятия заключалась, прежде всего, в том, что подобных многодневных гонок в Союзе еще не было. Максимальная протяженность проводившейся тогда велогонки Москва — Ленинград составляла всего 700 километров. Теперь же предстояло подготовиться к утомительным многодневным гонкам на дистанцию свыше двух тысяч километров по шоссе, проселочным дорогам, булыжникам и пескам. Уже в декабре 1936 года было утверждено положение, согласно которому намечаемой гонке вокруг Украины должны были предшествовать областные отборочные велотуры, в которых могли принимать участие только победители соревнований в физкультурных коллективах на предприятиях, в колхозах и в добровольных спортивных обществах.

23 апреля 1937 года стартовал первый Одесский областной велотур по маршруту Одесса — Николаев — Вознесенск — Одесса общей протяженностью 340 километров. Через три дня на площади Коммуны одесситы горячо приветствовали абсолютного победителя велотура — мастера спорта Михаила Рыбальченко. Победа обнадеживала — впереди предстояла упорная многодневная борьба в Украинской велогонке.

Спустя месяц был дан старт первого Украинского велотура, в котором приняли участие 113 сильнейших гонщиков республики — победители прошедших перед ним областных туров. Всем стартовавшим в столице республики спортсменам предстояло преодолеть разбитые на пятнадцать этапов 2265 километров самых разнообразных дорог: по шоссе, покрытому гудроном, к которому в жару прилипали колеса велосипедов; грунтовым дорогам, представлявшим опасность во время дождей; по булыжникам, щебенке и пескам. Общая протяженность таких участков составляла около 1400 километров, то есть более половины всей дистанции. Спустя двадцать дней после старта — 13 июня в столице Украины сомкнулось кольцо велогонки. Ее абсолютным победителем опять стал Михаил Рыбальченко, покрывший всю дистанцию за 87 часов 52 минуты 9 секунд и не уступивший лидерства ни на одном из пятнадцати этапов гонки. Занявшего второе место киевского армейца Савельева он опередил более, чем на восемь часов! Затем были 1-й Всесоюзный, 2-й Украинский, 2-й Всесоюзный, 1-й Грузинский велотуры, и их победителем неизменно оказывался Михаил.

В 1938 году, через месяц после победы во 2-м Украинском туре, — снова ответственное состязание — первенство страны. Проводилось оно в окрестностях Ленинграда. Шесть кругов по 33 километра. Впервые в Союзе такая большая дистанция в соревнованиях по шоссейным гонкам.