Возможно, потому, что тернарные операторы в Стартере все-таки рановато использовать 
Попробуйте решение попроще....
public class Solution {
public static int fib(int num) {
if (num == 0){
return 0;
}
if (num == 1){
return 1;
}
else{
return fib(num - 1) + fib(num - 2);
}
}
}