поток на (правом) входе -2*pi*R^3, интеграл дивергенции, он же удвоенный объём, вы посчитали, он равен pi*R^3. значит поток на выходе равен их сумме, то есть -pi*R^3. если же у автора он остался -2*pi*R^3, то, возможно, поле предполагалось бездивергентным, типа 2*x*i-y*j-z*k.