Scrapeless CLI
अवलोकन
Scrapeless CLI वेब एक्सट्रैक्शन, वेबसाइट क्रॉलिंग, AI उत्तरों, प्रॉक्सी URL जनरेशन और क्लाउड ब्राउज़र संचालन के लिए एक ही scrapeless कमांड प्रदान करता है। इसे टर्मिनल में चलाएँ या अपनी ऑटोमेशन स्क्रिप्ट्स से इनवोक करें।
सुविधाएँ
| सुविधा | कमांड एंट्री पॉइंट | उद्देश्य |
|---|---|---|
| Web Unlocker | scrapeless unlock / scrapeless scrape | किसी पेज को HTML, Markdown या अन्य समर्थित फ़ॉर्मैट में एक्सट्रैक्ट करें। |
| Crawl | scrapeless crawl | वेबसाइट क्रॉल टास्क बनाएँ और उसके परिणाम प्राप्त करें। |
| AI Scraper | scrapeless ai | समर्थित AI प्लेटफ़ॉर्म से उत्तर एकत्र करें। |
| Proxies | scrapeless proxy create | स्थानीय रूप से प्रमाणित प्रॉक्सी URL जनरेट करें। |
| Cloud browser | scrapeless browser | अपस्ट्रीम क्लाउड ब्राउज़र CLI चलाएँ। |
api नेमस्पेस आरक्षित है और लागू नहीं किया गया है।
शुरू करें
- क्विकस्टार्ट — इंस्टॉल करें, अपनी key कॉन्फ़िगर करें और अपना पहला अनुरोध भेजें।
- उपयोग के उदाहरण — प्रत्येक सुविधा के लिए कमांड।
- कॉन्फ़िगरेशन और टास्क — क्रेडेंशियल्स, आउटपुट, पोलिंग और ब्राउज़र आवश्यकताएँ।
क्विकस्टार्ट
आवश्यकताएँ
Node.js 22 या बाद का संस्करण और npm उपयोग करें। Node.js CLI का रनटाइम है; आपको JavaScript या TypeScript लिखने की आवश्यकता नहीं है। प्रमाणित सेवाओं के लिए Scrapeless खाता और API key आवश्यक हैं।
1. CLI इंस्टॉल करें
npm install -g scrapeless
scrapeless --version
scrapeless --help2. अपनी API Key कॉन्फ़िगर करें
Scrapeless डैशबोर्ड से अपनी API key कॉपी करें और YOUR_API_TOKEN को बदलें:
- डैशबोर्ड में Settings (सेटिंग्स) खोलें।
- API Key Management (API Key प्रबंधन) चुनें।
- कोई उपलब्ध key उपयोग करें, या ज़रूरत हो तो Create API Key (API Key बनाएँ) चुनें। नीचे दिए गए कॉन्फ़िगरेशन कमांड के लिए key कॉपी करें।
scrapeless config set api_token YOUR_API_TOKEN
scrapeless auth statusauth status प्रमाणीकरण और खाते का बैलेंस जाँचता है। क्लाउड अनुरोध और प्रॉक्सी ट्रैफ़िक खाते के क्रेडिट खर्च करते हैं।
3. एक पेज एक्सट्रैक्ट करें
scrapeless unlock https://example.com --type markdownयह कमांड पेज का एक्सट्रैक्ट किया गया Markdown प्रिंट करता है।
पूरा रिस्पॉन्स देखें
पूरा रिस्पॉन्स, जिसमें उसका कोड और पेज कंटेंट शामिल है, देखने के लिए --json जोड़ें:
scrapeless unlock https://example.com --type markdown --jsonउपयोग के उदाहरण
ये उदाहरण चलाने से पहले CLI इंस्टॉल करें और अपनी API key कॉन्फ़िगर करें।
Web Unlocker
किसी चयनित क्षेत्र को HTML के रूप में एक्सट्रैक्ट करें, या पूरा JSON रिस्पॉन्स सहेजें:
scrapeless unlock https://example.com --type html --selector body
scrapeless unlock https://example.com --type markdown --json -o page.jsonscrape, unlock का एक उपनाम (alias) है। डिफ़ॉल्ट आउटपुट HTML है, और JavaScript रेंडरिंग सक्षम रहती है।
Crawl
scrapeless crawl https://example.com --limit 3 --max-depth 2 --formats markdown --json -o crawl.json--formats markdown पेज कंटेंट का फ़ॉर्मैट चुनता है; टास्क का समग्र परिणाम JSON ही रहता है। --include-paths और --exclude-paths से क्रॉल का दायरा सीमित करें।
AI Scraper
scrapeless ai platforms
scrapeless ai chatgpt "Explain what Scrapeless is used for" -o answer.md
scrapeless ai perplexity "What web scraping techniques are available?" --web-search true --json -o answer.jsonसफल टास्क डिफ़ॉल्ट रूप से Markdown लौटाते हैं। विकल्प प्लेटफ़ॉर्म के अनुसार अलग-अलग होते हैं; वर्तमान सूची के लिए ai platforms उपयोग करें। अंग्रेज़ी प्रॉम्प्ट केवल उदाहरण हैं: CLI Unicode टेक्स्ट स्वीकार करता है, और भाषा की उपलब्धता चयनित सेवा पर निर्भर करती है।
Proxies
scrapeless proxy gateways
scrapeless proxy create --type residential --country US --gateway usURL जनरेशन कनेक्टिविटी का परीक्षण किए बिना स्थानीय रूप से होता है। समर्थित प्रकार residential, ipv6 और datacenter हैं; गेटवे us, eu, ap या hostname:port स्वीकार करते हैं। URL में क्रेडेंशियल्स होते हैं; इसे निजी रखें।
Cloud Browser
SESSION_ID को new-session द्वारा लौटाए गए सेशन ID से बदलें:
scrapeless browser new-session --name demo --ttl 300 --json
scrapeless browser --session-id SESSION_ID open https://example.com
scrapeless browser --session-id SESSION_ID snapshot -i
scrapeless browser --session-id SESSION_ID screenshot page.png
scrapeless browser --session-id SESSION_ID closeclick @e1 या fill @e2 "hello world" के लिए, सेशन खुला रहते हुए नए स्नैपशॉट से प्राप्त वास्तविक इंटरैक्टिव रेफ़रेंस उपयोग करें। डिफ़ॉल्ट रूप से, पहली बार उपयोग करने पर, जिसमें browser --help भी शामिल है, अपस्ट्रीम CLI इंस्टॉल हो जाता है; कॉन्फ़िगरेशन और टास्क में ब्राउज़र आवश्यकताएँ देखें।
कमांड विकल्पों के लिए scrapeless unlock --help, scrapeless crawl --help, scrapeless ai --help या scrapeless proxy create --help चलाएँ। browser --help के पहली बार उपयोग पर इंस्टॉलेशन व्यवहार का वर्णन ऊपर किया गया है।
पूरा कमांड रेफ़रेंस और सोर्स से बिल्ड करने के निर्देश CLI रिपॉज़िटरी में हैं। AI सेवा का व्यवहार और बिलिंग AI Scraper दस्तावेज़ में शामिल हैं।
कॉन्फ़िगरेशन और टास्क
क्रेडेंशियल्स
डिफ़ॉल्ट फ़ाइल ~/.scrapeless/config.json है। Key की प्राथमिकता का क्रम कॉन्फ़िगरेशन फ़ाइल → SCRAPELESS_API_TOKEN → SCRAPELESS_API_KEY है। एनवायरनमेंट वेरिएबल उपयोग करने के लिए:
export SCRAPELESS_API_KEY="YOUR_API_TOKEN"सहेजी गई key को प्राथमिकता मिलती है। CLI .env को स्वचालित रूप से लोड नहीं करता। यह POSIX सिंटैक्स है; PowerShell में $env:SCRAPELESS_API_KEY="YOUR_API_TOKEN" उपयोग होता है।
| वेरिएबल | उद्देश्य |
|---|---|
SCRAPELESS_API_KEY | API key; Browser द्वारा भी समर्थित। |
SCRAPELESS_API_TOKEN | एकीकृत कमांड के लिए वैकल्पिक key वेरिएबल। |
SCRAPELESS_CONFIG_PATH | केवल एकीकृत कमांड के लिए कस्टम कॉन्फ़िगरेशन पाथ। |
SCRAPELESS_API_BASE_URL | एकीकृत HTTP API ओवरराइड; डिफ़ॉल्ट https://api.scrapeless.com है। |
SCRAPELESS_CACHE_DIR | Browser कैश रूट; डिफ़ॉल्ट ~/.cache/scrapeless है। |
SCRAPELESS_BROWSER_BIN | किसी संगत एक्ज़ीक्यूटेबल का एब्सोल्यूट पाथ; स्वचालित इंस्टॉलेशन को छोड़ देता है। |
कस्टम कॉन्फ़िग पाथ Browser की डिफ़ॉल्ट फ़ाइल को नहीं बदलता। रैपर अपनी निर्धारित key को एक एनवायरनमेंट वेरिएबल के माध्यम से पास करता है, लेकिन Browser की डिफ़ॉल्ट सहेजी गई key उसे ओवरराइड कर सकती है। प्रमाणीकरण को सुसंगत रखने के लिए साझा डिफ़ॉल्ट फ़ाइल उपयोग करें।
आउटपुट और रिक्वेस्ट बॉडी
HTTP कमांड पूरे रिस्पॉन्स के लिए --json और आउटपुट सहेजने के लिए -o, --output <file> को सपोर्ट करते हैं। डिफ़ॉल्ट रूप से परिणाम stdout पर जाते हैं; -o के साथ वे इसके बजाय फ़ाइल में सहेजे जाते हैं। प्रगति, पोलिंग के दौरान टास्क-ID सूचनाएँ और त्रुटियाँ stderr पर जाती हैं। --no-wait के साथ, क्रिएशन रिस्पॉन्स, जिसमें उसका टास्क ID शामिल है, परिणाम आउटपुट का हिस्सा होता है।
Unlocker, Crawl और AI क्रिएशन --data '<JSON>' या --data @request.json स्वीकार करते हैं। प्राथमिकता का क्रम स्पष्ट फ़्लैग → बॉडी फ़ील्ड → CLI डिफ़ॉल्ट है; नेस्टेड ऑब्जेक्ट मर्ज होते हैं और ऐरे बदल दिए जाते हैं।
टास्क हैंडलिंग
Crawl और AI क्रिएशन डिफ़ॉल्ट रूप से हर 5 सेकंड पर, अधिकतम 300 सेकंड तक पोल करते हैं। क्रिएशन के बाद तुरंत लौटने के लिए --no-wait जोड़ें। किसी मौजूदा टास्क को उसके लौटाए गए ID से क्वेरी करें:
scrapeless crawl result TASK_ID --wait --timeout 300 --interval 5
scrapeless ai result TASK_ID --platform chatgpt --wait --timeout 300 --interval 5संबंधित सेवा के लिए उसी ID का उपयोग करें। पोलिंग टाइमआउट सर्वर टास्क को रद्द नहीं करता। Crawl के लिए completed या AI के लिए success जाँचें और वास्तविक कंटेंट देखें; केवल एग्ज़िट कोड 0 पर्याप्त नहीं है।
--timeout और --interval सेकंड का उपयोग करते हैं; स्क्रैपिंग विकल्प --wait-for और --scrape-timeout मिलीसेकंड का उपयोग करते हैं। प्रत्येक HTTP अनुरोध का अलग से 60 सेकंड का टाइमआउट होता है। टास्क-क्रिएशन POST अनुरोध स्वचालित रूप से पुनः प्रयास (retry) नहीं किए जाते।
ब्राउज़र आवश्यकताएँ
रैपर को npm, npm और GitHub Releases तक पहुँच, और कैश लिखने की अनुमति की आवश्यकता होती है। सेशन क्लाउड में चलते हैं; रैपर अलग Chromium इंस्टॉल के बिना स्थानीय रूप से चलता है।
पिन की गई रिलीज़ macOS x64/arm64, Linux x64/arm64 और Windows x64 को सपोर्ट करती है; Windows arm64 बाइनरी शामिल नहीं है।
समस्या निवारण
| समस्या | क्या जाँचें |
|---|---|
| Key मौजूद नहीं है या HTTP 401/403 | सहेजी गई key, खाते की अनुमतियाँ और बैलेंस जाँचें; scrapeless auth status चलाएँ। |
| पोलिंग टाइमआउट | टास्क ID सुरक्षित रखें और ऊपर दिए गए result ... --wait कमांड उपयोग करें; स्थिति और वास्तविक कंटेंट देखें। |
| Browser इंस्टॉलेशन विफल | npm, नेटवर्क एक्सेस, कैश लिखने की अनुमतियाँ और ऊपर दी गई प्लेटफ़ॉर्म आवश्यकताएँ जाँचें। |