Это годится для пары полигонов. Если их хотя бы десяток - уже лучше использовать базу или специальные индексы в памяти.
Вот функции у MySQL, проверяющие принадлежность: Within(g1,g2)
Ну там даже примеры на C есть, чего ещё надо? 
Примеры на JavaScript можно в OpenLayers надыбать.
На Java мы JTS юзаем - вполне удобная библиотека с богатыми возможностями.
Ещё важный вопрос проекций. 2D геометрия более-менее работает только на меркаторе и на небольших расстояниях. При работе с градусами и большими расстояниями надо использовать более сложные алгоритмы.