Ошибка вычислительная: 0,5*a*b = 0,5*10*7,5=37,5, а не 62,5

Уточните, пожалуйста, на каком шаге вы запутались или стало непонятно. 

Оба уравнения y=kx+m и y=ax+by+c задают прямую. Эти уравнения эквивалентны, из одного можно получить другое. Поэтому для решения задач мы можем использовать любое из них - в данном случае выбрали именно y=kx+m, т.к. решение получается проще. Ведь если подставлять координаты двух точек в общее уравнение, то получится система из двух уравнений с тремя неизвестными. Надо будет выражать две неизвестных через третью, подставлять в уравнение прямой и сокращать на общий множитель во всех слагаемых в левой части - это дольше и сложнее, чем использовать сразу готовое уравнение прямой с двумя неизвестными, поэтому учитель его и выбрал.

Это можно сделать графически или решить систему двух уравнений с двумя переменными

  Проведем радиусы из центра окружности к точкам касания окружности осями ОХ и ОУ. По свойству касательной к окружности эти радиусы будут перпендикулярны осям, следовательно, мы можем сказать, что длина расстояния от центра окружности до осей координат равна r. Но поскольку окружность расположена в 4 квадранте координатной плоскости, координата х точки центра окружности будет отрицательным числом, то есть –r.