Ответ:

#include <math.h>

#include <iostream>

using namespace std;

int main()

{

   setlocale(LC_ALL, "Russian");

   double x = 1;

   double y = 1;

   double c = sqrt(x*x+y*y);

   double r = 1;

   if (c > r && x>1 && y>1) { cout << "не лежит"; }

   else { cout << "лежит"; }

   return 0;

}

Объяснение:

Нам дана окружность с радиусом 1, и квадрат со стороной 2. Соответственно надо посчитать длину вектора из начала координат и если длина вектора больше 1, то точка лежит иначе не лежит в заштрихованной области.