A la mi-journée, 104 personnes avaient été secourues mais le nombre de migrants présents à bord du navire n'était pas encore connu, selon les autorités.
Ce naufrage est le plus meurtrier survenu au large de la Grèce cette année.
"Nous craignons que le nombre de morts augmente", a déclaré un responsable du ministère des Transports maritimes sous couvert d'anonymat.
Un porte-parole du gouvernement grec a dit ne pas être en mesure de confirmer que le navire transportait entre 700 et 750 personnes, un chiffre évoqué par le réseau européen d'alerte Charity Alarm Phone, citant des témoignages de personnes à bord.
Le bateau, qui se dirigeait vers l'Italie, a été repéré pour la première fois dans les eaux internationales mardi par un hélicoptère de l'agence européenne de garde-côtes et de garde-frontières (Frontex) et deux navires à proximité, à environ 75 km au sud-ouest de la ville de Pylos, dans le sud de la Grèce, ont indiqué les garde-côtes.
Les migrants à bord ont refusé l'aide des autorités grecques et une opération de recherche et de sauvetage a été lancée aux premières heures mercredi après que le bateau a chaviré et coulé.
Selon la chaîne publique ERT, le bateau était parti de Tobrouk, en Libye, et transportait principalement des jeunes hommes d'une vingtaine d'années. Les autorités grecques n'ont pas confirmé dans l'immédiat leur nationalité, ni le lieu de départ du navire.
Les survivants ont été emmenés dans la ville de Kalamata, ont déclaré les autorités.
La Grèce est l'une des principales voies d'accès à l'Union européenne pour les réfugiés et les migrants en provenance du Moyen-Orient, d'Asie et d'Afrique.
Selon les Nations unies, environ 72.000 réfugiés et migrants sont arrivés depuis le début de l'année dans les pays de première entrée du sud de l'Europe, à savoir l'Italie, l'Espagne, la Grèce, Malte et Chypre. La majorité de ces réfugiés ont débarqué en Italie.
