Skip to main content
  1. Articles/

தேடல் பொறி உகப்பாக்க பகுப்பாய்வில் புதுமைகள்: அளவிடக்கூடிய, நிகழ்நேர தரவரிசை கண்காணிப்பு தளத்தை உருவாக்குதல்

637 words·3 mins·
மென்பொருள் மேம்பாடு தேடல் பொறி உகப்பாக்க கருவிகள் தேடல் பொறி உகப்பாக்கம் பகுப்பாய்வு பெரிய தரவு மங்கோடிபி அளவிடக்கூடிய கட்டமைப்பு நிகழ்நேர செயலாக்கம்
திபாங்கர் சர்க்கார்
Author
திபாங்கர் சர்க்கார்
உலகின் சிறந்த தொழில்நுட்பங்களில் சிலவற்றில் பணியாற்றுகிறேன்.
Table of Contents

டிஜிட்டல் சந்தைப்படுத்தலின் வேகமான உலகில், தகவலறிந்த முடிவுகளை எடுக்க நிகழ்நேர, துல்லியமான தேடல் பொறி உகப்பாக்க தரவுகளை அணுகுவது முக்கியமானது. இந்த கட்டுரை, நிகழ்நேர நுண்ணறிவுகளை வழங்க அளவிடக்கூடிய கட்டமைப்பு மற்றும் பெரிய தரவு தொழில்நுட்பங்களின் புதுமையான பயன்பாட்டில் கவனம் செலுத்தி, நவீன தேடல் பொறி உகப்பாக்க பகுப்பாய்வு தளத்தை உருவாக்குவதில் எனது அனுபவத்தை விவரிக்கிறது.

திட்ட கண்ணோட்டம்
#

டிஜிட்டல் சந்தைப்படுத்தல் துறையில் உள்ள எங்கள் வாடிக்கையாளர், ஒரு தொடக்க நிறுவனம், பின்வரும் அம்சங்களை வழங்கக்கூடிய தளத்துடன் தேடல் பொறி உகப்பாக்க கருவிகள் சந்தையை சீர்குலைக்க முயன்றது:

  1. மில்லியன் கணக்கான முக்கிய சொற்களுக்கான நிகழ்நேர தரவரிசை கண்காணிப்பு
  2. வேகமான பயனர் வளர்ச்சியை ஆதரிக்க அளவிடக்கூடிய கட்டமைப்பு
  3. மேம்பட்ட பகுப்பாய்வு மற்றும் அறிக்கையிடல் திறன்கள்
  4. போட்டி பகுப்பாய்வு அம்சங்கள்
  5. பிற பிரபலமான சந்தைப்படுத்தல் கருவிகளுடன் ஒருங்கிணைப்பு

தொழில்நுட்ப அணுகுமுறை
#

அளவிடக்கூடிய கட்டமைப்பு வடிவமைப்பு
#

பெரும் தரவு செயலாக்கத் தேவைகளைக் கையாள, நாங்கள் மிகவும் அளவிடக்கூடிய கட்டமைப்பை வடிவமைத்தோம்:

  1. நுண்சேவைகள் கட்டமைப்பு: பயன்பாட்டை சிறிய, நிர்வகிக்கக்கூடிய சேவைகளாக பிரித்தல்
  2. நிகழ்வு-இயக்க வடிவமைப்பு: நிகழ்நேர தரவு ஸ்ட்ரீமிங் மற்றும் செயலாக்கத்திற்கு அபாச்சி காஃப்காவைப் பயன்படுத்தியது
  3. கொள்கலனாக்கம்: எளிதாக அளவிடுதல் மற்றும் நிர்வகிப்பதற்காக டாக்கர் மற்றும் குபர்நெட்டஸ் பயன்படுத்தி சேவைகளை பரிநியோகித்தல்
  4. சுமை சமநிலைப்படுத்தல்: போக்குவரத்தை திறமையாக விநியோகிக்க மேம்பட்ட சுமை சமநிலைப்படுத்தலை செயல்படுத்தியது

தரவு சேமிப்பு மற்றும் செயலாக்கம்
#

தளத்தின் மையம் திறமையான தரவு சேமிப்பு மற்றும் செயலாக்கத்தை நம்பியிருந்தது:

  1. முதன்மை தரவுத்தளமாக மங்கோடிபி: அதன் நெகிழ்வுத்தன்மை மற்றும் பெரிய அளவிலான கட்டமைக்கப்படாத தரவுகளைக் கையாளும் திறனுக்காக மங்கோடிபியைத் தேர்ந்தெடுத்தது
  2. எலாஸ்டிக்சேர்ச்: வேகமான, முழு உரை தேடல் திறன்களுக்குப் பயன்படுத்தப்பட்டது
  3. ரெடிஸ்: தரவுத்தள சுமையைக் குறைக்கவும் பதில் நேரங்களை மேம்படுத்தவும் தற்காலிக சேமிப்பு அடுக்காக செயல்படுத்தப்பட்டது
  4. அபாச்சி ஸ்பார்க்: தொகுதி செயலாக்கம் மற்றும் சிக்கலான பகுப்பாய்வு பணிகளுக்குப் பயன்படுத்தப்பட்டது

நிகழ்நேர தரவரிசை கண்காணிப்பு
#

நிகழ்நேர தரவரிசை கண்காணிப்பை அடைய:

  1. பரவலாக்கப்பட்ட தவழும் அமைப்பு: தேடல் எந்திர முடிவுகளை சேகரிக்க தனிப்பயன், பரவலாக்கப்பட்ட வலை தவழும் அமைப்பை உருவாக்கியது
  2. நிகழ்நேர செயலாக்க குழாய்: தரவரிசை தரவை நிகழ்நேரத்தில் செயலாக்க மற்றும் பகுப்பாய்வு செய்ய காஃப்கா மற்றும் ஸ்பார்க் ஸ்ட்ரீமிங் பயன்படுத்தி ஒரு குழாயை செயல்படுத்தியது
  3. எச்சரிக்கை அமைப்பு: குறிப்பிடத்தக்க தரவரிசை மாற்றங்களுக்கான நிகழ்நேர எச்சரிக்கை அமைப்பை உருவாக்கியது

பகுப்பாய்வு மற்றும் அறிக்கையிடல்
#

மேம்பட்ட பகுப்பாய்வு திறன்கள் ஒரு முக்கிய வேறுபடுத்தும் காரணியாக இருந்தன:

  1. தனிப்பயன் பகுப்பாய்வு இயந்திரம்: தேடல் பொறி உகப்பாக்க குறிப்பிட்ட கணக்கீடுகளுக்கு பைதான் மற்றும் நம்பை பயன்படுத்தி உருவாக்கப்பட்டது
  2. ஊடாடும் டாஷ்போர்டுகள்: தரவு காட்சிப்படுத்தலுக்கு ரியாக்ட் மற்றும் D3.js பயன்படுத்தி உருவாக்கப்பட்டது
  3. தானியங்கி அறிக்கையிடல்: தனிப்பயன் அறிக்கைகளை உருவாக்க மற்றும் திட்டமிட ஒரு அமைப்பை செயல்படுத்தியது

சவால்கள் மற்றும் தீர்வுகள்
#

சவால் 1: தரவு அளவு மற்றும் வேகம்
#

அடிக்கடி புதுப்பிக்கப்பட்ட மில்லியன் கணக்கான முக்கிய சொற் தரவரிசைகளைக் கையாளுவது குறிப்பிடத்தக்க தரவு மேலாண்மை சவால்களை ஏற்படுத்தியது.

தீர்வு: நாங்கள் அடுக்கு தரவு சேமிப்பு அமைப்பை செயல்படுத்தினோம். சூடான தரவு (சமீபத்திய மற்றும் அடிக்கடி அணுகப்படும்) நினைவகத்திலும் மங்கோடிபியிலும் வைக்கப்பட்டது, அதே நேரத்தில் வரலாற்று தரவு தொகுதி செயலாக்கத்திற்காக ஒரு தரவு ஏரியில் காப்பகப்படுத்தப்பட்டது. இந்த அணுகுமுறை செயல்திறனை செலவு-திறன்மிக்கதாக சமநிலைப்படுத்தியது.

சவால் 2: நிகழ்நேர தரவின் துல்லியம்
#

குறிப்பாக நிகழ்நேரத்தில், தரவரிசை தரவின் துல்லியத்தை உறுதி செய்வது முக்கியமானது.

தீர்வு: பல தரவு மூலங்கள் மற்றும் தவழல் அமர்வுகளிலிருந்து முடிவுகளை குறுக்கு குறிப்பிட்ட ஒரு ஒருமித்த கருத்து வழிமுறையை நாங்கள் உருவாக்கினோம். ஒழுங்கற்ற தன்மைகள் மற்றும் SERP அலைவுகளைக் கண்டறிந்து வடிகட்ட இயந்திர கற்றல் மாதிரிகள் பயன்படுத்தப்பட்டன.

சவால் 3: வலை தவழலின் அளவிடக்கூடிய தன்மை
#

தடுக்கப்படாமல் தினசரி மில்லியன் கணக்கான வினவல்களைக் கையாள வலை தவழல் உள்கட்டமைப்பை அளவிடுவது ஒரு குறிப்பிடத்தக்க சவாலாக இருந்தது.

தீர்வு: நாங்கள் ஒரு பரவலாக்கப்பட்ட, சுழலும் ப்ராக்ஸி நெட்வொர்க் மற்றும் மனித நடத்தையை போல செயல்படும் அறிவார்ந்த தவழல் வழிமுறைகளை செயல்படுத்தினோம். கூடுதலாக, எங்கள் தவழப்பட்ட தரவை நிரப்ப தரவு வழங்குநர்களுடன் கூட்டாண்மைகளை உருவாக்கினோம்.

முடிவுகள் மற்றும் தாக்கம்
#

தேடல் பொறி உகப்பாக்க பகுப்பாய்வு தளத்தின் தொடக்கம் டிஜிட்டல் சந்தைப்படுத்தல் சமூகத்தில் ஆர்வத்துடன் வரவேற்கப்பட்டது:

  • முதல் ஆண்டில் பயனர் தளத்தில் 500% வளர்ச்சி
  • தரவரிசை கண்காணிப்பில் 99.9% துல்லியம், முக்கிய போட்டியாளர்களை விஞ்சியது
  • தொழில்துறை தரநிலைகளுடன் ஒப்பிடும்போது 30% வேகமான நுண்ணறிவு வழங்கல்
  • நிகழ்நேர திறன்கள் மற்றும் மேம்பட்ட பகுப்பாய்வு குறித்து பயனர்களிடமிருந்து நேர்மறையான கருத்து

முக்கிய கற்றல்கள்
#

  1. தரவு துல்லியம் மிக முக்கியமானது: தேடல் பொறி உகப்பாக்க தொழில்துறையில், தரவின் துல்லியம் ஒரு தயாரிப்பை உருவாக்கவோ அல்லது உடைக்கவோ செய்யலாம். வலுவான தரவு சரிபார்ப்பு வழிமுறைகளில் முதலீடு செய்வது முக்கியம்.

  2. நிகழ்நேரம் என்பது எப்போதும் உடனடியாக இருக்காது: தரவு சேகரிப்பு மற்றும் செயலாக்க நேரங்களின் யதார்த்தத்துடன் நிகழ்நேர புதுப்பிப்புகளுக்கான தேவையை சமநிலைப்படுத்த கற்றுக்கொண்டோம், யதார்த்தமான பயனர் எதிர்பார்ப்புகளை அமைத்தோம்.

  3. அளவிடக்கூடிய தன்மை தொடர்ந்த கவனம் தேவைப்படுகிறது: தளம் வளர்ந்தபோது, அதிகரித்து வரும் சுமைகளை திறமையாக கையாள எங்கள் கட்டமைப்பை தொடர்ந்து சீர்படுத்த வேண்டியிருந்தது.

  4. பயனர் கல்வி முக்கியமானது: மேம்பட்ட பகுப்பாய்வு கருவிகளை வழங்குவது என்பது வாடிக்கையாளர்கள் தளத்திலிருந்து அதிகபட்ச மதிப்பைப் பெற முடியும் என்பதை உறுதிசெய்ய பயனர் கல்வியில் முதலீடு செய்ய வேண்டும் என்பதையும் அர்த்தப்படுத்தியது.

முடிவுரை
#

இந்த தேடல் பொறி உகப்பாக்க பகுப்பாய்வு தளத்தை உருவாக்குவது நிகழ்நேர தரவு செயலாக்கம் மற்றும் பகுப்பாய்வில் சாத்தியமானவற்றின் எல்லைகளை தள்ளியது. அதிநவீன தொழில்நுட்பங்கள் மற்றும் புதுமையான கட்டமைப்பு வடிவமைப்புகளைப் பயன்படுத்தி, நவீன டிஜிட்டல் சந்தைப்படுத்துநர்களின் எதிர்பார்ப்புகளை பூர்த்தி செய்வதோடு மட்டுமல்லாமல் மீறியும் ஒரு கருவியை உருவாக்கினோம்.

இந்த திட்டத்தின் வெற்றி டிஜிட்டல் சந்தைப்படுத்தல் நிலப்பரப்பில் நிகழ்நேர, தரவு-இயக்க முடிவெடுத்தலின் வளர்ந்து வரும் முக்கியத்துவத்தை வலியுறுத்துகிறது. தேடல் எந்திரங்கள் தொடர்ந்து பரிணமித்து வரும் நிலையில் மற்றும் ஆன்லைன் வெளியில் போட்டி தீவிரமடைந்து வரும் நிலையில், துல்லியமான, சரியான நேரத்தில் நுண்ணறிவுகளை வழங்கக்கூடிய கருவிகள் தங்கள் ஆன்லைன் தெரிவுநிலையை பராமரிக்கவும் மேம்படுத்தவும் முயற்சிக்கும் வணிகங்களுக்கு மதிப்புமிக்கதாக இருக்கும்.

Related

வாடிக்கையாளர் ஈடுபாட்டை புதுமைப்படுத்துதல்: முன்னணி விசுவாச புள்ளிகள் மேலாண்மை அமைப்பை உருவாக்குதல்
612 words·3 mins
மென்பொருள் மேம்பாடு வாடிக்கையாளர் தக்கவைப்பு உத்திகள் விசுவாச திட்டம் வாடிக்கையாளர் ஈடுபாடு CRM விளையாட்டாக்கம் அளவிடக்கூடிய கட்டமைப்பு API மேம்பாடு
அடுத்த தலைமுறை செட்-டாப் பாக்ஸ்களுக்கான அளவிடக்கூடிய பின்னணி சேவைகளை உருவாக்குதல்
620 words·3 mins
மென்பொருள் மேம்பாடு IoT தீர்வுகள் செட்-டாப் பாக்ஸ் பின்னணி மேம்பாடு அளவிடக்கூடிய கட்டமைப்பு IoT மேகக்கணி சேவைகள் API வடிவமைப்பு
சந்தைப்படுத்தல் தானியங்கி தளத்தை நவீனமயமாக்குதல்: API மறுவடிவமைப்பு மற்றும் பல மொழி ஒருங்கிணைப்பு
435 words·3 mins
மென்பொருள் மேம்பாடு API கட்டமைப்பு API வடிவமைப்பு சந்தைப்படுத்தல் தானியங்கி பல மொழி ஒருங்கிணைப்பு RESTful API மென்பொருள் கட்டமைப்பு டெவலப்பர் அனுபவம்
முன்னணி மேம்பாட்டை துரிதப்படுத்துதல்: 99Acres-க்கான விட்ஜெட் தளத்தை உருவாக்குதல்
903 words·5 mins
மென்பொருள் மேம்பாடு வலை மேம்பாடு முன்னணி மேம்பாடு விட்ஜெட் தளம் JQuery சர்வர்-சைட் ரெண்டரிங் பழைய வலைத்தளங்கள் வலை செயல்திறன்
மம்ஸ்பிரெஸோவிற்கான அளவிடக்கூடிய தரவு குழாய் அமைப்பை உருவாக்குதல்: உள்ளடக்க தனிப்பயனாக்கத்தை அதிகாரப்படுத்துதல்
423 words·2 mins
தொழில்நுட்பம் தரவு பொறியியல் தரவு குழாய் பகுப்பாய்வு காஃப்கா போஸ்ட்கிரெஸ்கியூஎல் பைதான்
மின்வணிகத்தை புரட்சிகரமாக்குதல்: லென்ஸ்கார்ட்டின் கண்ணாடி தளத்திற்கான பரிந்துரை அமைப்பை உருவாக்குதல்
435 words·3 mins
மென்பொருள் மேம்பாடு இயந்திர கற்றல் தரவு அறிவியல் மின்வணிகம் பரிந்துரை அமைப்புகள் Word2Vec பைதான் MongoDB AWS