int checkrobots_set(robots_wizard* robots,char* adr,char* data) {
if (((int) strlen(adr)) >= sizeof(robots->adr) - 2) return 0;
if (((int) strlen(data)) >= sizeof(robots->token) - 2) return 0;
while(robots) {
if (strfield2(robots->adr,adr)) { // entrée existe
strcpybuff(robots->token,data);
#if DEBUG_ROBOTS
printf("robots.txt: set %s to %s\n",adr,data);
#endif
return -1;
}
else if (!robots->next) {
robots->next=(robots_wizard*) calloct(1,sizeof(robots_wizard));
if (robots->next) {
robots->next->next=NULL;
strcpybuff(robots->next->adr,adr);
strcpybuff(robots->next->token,data);
#if DEBUG_ROBOTS
printf("robots.txt: new set %s to %s\n",adr,data);
#endif
}
#if DEBUG_ROBOTS
else
printf("malloc error!!\n");
#endif
}
robots=robots->next;
}
return 0;
}
// fil="" : vérifier si règle déja enregistrée
int checkrobots(robots_wizard* robots,char* adr,char* fil) {
while(robots) {
if (strfield2(robots->adr,adr)) {
if (fil[0]) {
int ptr=0;
char line[250];
if (strnotempty(robots->token)) {
do {
ptr+=binput(robots->token+ptr,line,200);
if (line[0]=='/') { // absolu
if (strfield(fil,line)) { // commence avec ligne
return -1; // interdit
}
} else { // relatif
if (strstrcase(fil,line)) {
return -1;
}
}
} while( (strnotempty(line)) && (ptr<(int) strlen(robots->token)) );
}
} else {
return -1;
}
}
robots=robots->next;
}
return 0;
}
// teste si le tag contenu dans from est égal à "tag"
HTS_INLINE int check_tag(char* from,const char* tag) {
char* a=from+1;
int i=0;
char s[256];
while(is_space(*a)) a++;
while((isalnum((unsigned char)*a) || (*a=='/')) && (i<250)) { s[i++]=*a; a++; }
s[i++]='\0';
return (strfield2(s,tag)); // comparer
}
// teste si le tag contenu dans from est égal à "tag"
HTS_INLINE int check_tag(const char *from, const char *tag) {
const char *a = from + 1;
int i = 0;
char s[256];
while(is_space(*a))
a++;
for( ; (isalnum((unsigned char) *a) || (*a == '/')) && i + 1 < sizeof(s) ; i++, a++) {
s[i] = *a;
}
s[i] = '\0';
return strfield2(s, tag); // comparer
}
void help_wizard(httrackp * opt) {
help_wizard_buffers *buffers = malloct(sizeof(help_wizard_buffers));
#undef urls
#undef mainpath
#undef projname
#undef stropt
#undef stropt2
#undef strwild
#undef cmd
#undef str
#undef argv
#define urls (buffers->urls)
#define mainpath (buffers->mainpath)
#define projname (buffers->projname)
#define stropt (buffers->stropt)
#define stropt2 (buffers->stropt2)
#define strwild (buffers->strwild)
#define cmd (buffers->cmd)
#define str (buffers->str)
#define argv (buffers->argv)
//char *urls = (char *) malloct(HTS_URLMAXSIZE * 2);
//char *mainpath = (char *) malloct(256);
//char *projname = (char *) malloct(256);
//char *stropt = (char *) malloct(2048); // options
//char *stropt2 = (char *) malloct(2048); // options longues
//char *strwild = (char *) malloct(2048); // wildcards
//char *cmd = (char *) malloct(4096);
//char *str = (char *) malloct(256);
//char **argv = (char **) malloct(256 * sizeof(char *));
//
char *a;
//
if (urls == NULL || mainpath == NULL || projname == NULL || stropt == NULL
|| stropt2 == NULL || strwild == NULL || cmd == NULL || str == NULL
|| argv == NULL) {
fprintf(stderr, "* memory exhausted in %s, line %d\n", __FILE__, __LINE__);
return;
}
urls[0] = mainpath[0] = projname[0] = stropt[0] = stropt2[0] = strwild[0] =
cmd[0] = str[0] = '\0';
//
strcpybuff(stropt, "-");
mainpath[0] = projname[0] = stropt2[0] = strwild[0] = '\0';
//
printf("\n");
printf("Welcome to HTTrack Website Copier (Offline Browser) " HTTRACK_VERSION
"%s\n", hts_get_version_info(opt));
printf("Copyright (C) 1998-2016 Xavier Roche and other contributors\n");
#ifdef _WIN32
printf("Note: You are running the commandline version,\n");
printf("run 'WinHTTrack.exe' to get the GUI version.\n");
#endif
#ifdef HTTRACK_AFF_WARNING
printf("NOTE: " HTTRACK_AFF_WARNING "\n");
#endif
#ifdef HTS_PLATFORM_NAME
#if USE_BEGINTHREAD
printf("[compiled: " HTS_PLATFORM_NAME " - MT]\n");
#else
printf("[compiled: " HTS_PLATFORM_NAME "]\n");
#endif
#endif
printf("To see the option list, enter a blank line or try httrack --help\n");
//
// Project name
while(strnotempty(projname) == 0) {
printf("\n");
printf("Enter project name :");
fflush(stdout);
linput(stdin, projname, 250);
if (strnotempty(projname) == 0)
help("httrack", 1);
}
//
// Path
if (strnotempty(hts_gethome()))
printf("\nBase path (return=%s/websites/) :", hts_gethome());
else
printf("\nBase path (return=current directory) :");
linput(stdin, str, 250);
if (!strnotempty(str)) {
strcatbuff(str, hts_gethome());
strcatbuff(str, "/websites/");
}
if (strnotempty(str))
if ((str[strlen(str) - 1] != '/') && (str[strlen(str) - 1] != '\\'))
strcatbuff(str, "/");
strcatbuff(stropt2, "-O \"");
strcatbuff(stropt2, str);
strcatbuff(stropt2, projname);
strcatbuff(stropt2, "\" ");
// Créer si ce n'est fait un index.html 1er niveau
make_empty_index(str);
//
printf("\n");
printf("Enter URLs (separated by commas or blank spaces) :");
fflush(stdout);
linput(stdin, urls, 250);
if (strnotempty(urls)) {
while((a = strchr(urls, ',')))
*a = ' ';
while((a = strchr(urls, '\t')))
*a = ' ';
// Action
printf("\nAction:\n");
switch (help_query
("Mirror Web Site(s)|Mirror Web Site(s) with Wizard|Just Get Files Indicated|Mirror ALL links in URLs (Multiple Mirror)|Test Links In URLs (Bookmark Test)|Update/Continue a Mirror",
1)) {
case 1:
break;
case 2:
strcatbuff(stropt, "W");
break;
case 3:
strcatbuff(stropt2, "--get ");
break;
case 4:
strcatbuff(stropt2, "--mirrorlinks ");
break;
case 5:
strcatbuff(stropt2, "--testlinks ");
break;
case 6:
strcatbuff(stropt2, "--update ");
break;
case 0:
return;
break;
}
// Proxy
printf("\nProxy (return=none) :");
linput(stdin, str, 250);
if (strnotempty(str)) {
while((a = strchr(str, ' ')))
*a = ':'; // port
if (!strchr(jump_identification_const(str), ':')) {
char str2[256];
printf("\nProxy port (return=8080) :");
linput(stdin, str2, 250);
strcatbuff(str, ":");
if (strnotempty(str2) == 0)
strcatbuff(str, "8080");
else
strcatbuff(str, str2);
}
strcatbuff(stropt2, "-P ");
strcatbuff(stropt2, str);
strcatbuff(stropt2, " ");
}
// Display
strcatbuff(stropt2, " -%v ");
// Wildcards
printf
("\nYou can define wildcards, like: -*.gif +www.*.com/*.zip -*img_*.zip\n");
printf("Wildcards (return=none) :");
linput(stdin, strwild, 250);
// Options
do {
printf
("\nYou can define additional options, such as recurse level (-r<number>), separated by blank spaces\n");
printf("To see the option list, type help\n");
printf("Additional options (return=none) :");
linput(stdin, str, 250);
if (strfield2(str, "help")) {
help("httrack", 2);
} else if (strnotempty(str)) {
strcatbuff(stropt2, str);
strcatbuff(stropt2, " ");
}
} while(strfield2(str, "help"));
{
int argc = 1;
int g = 0;
int i = 0;
//
printf("\n");
if (strlen(stropt) == 1)
stropt[0] = '\0'; // aucune
sprintf(cmd, "%s %s %s %s", urls, stropt, stropt2, strwild);
printf("---> Wizard command line: httrack %s\n\n", cmd);
printf("Ready to launch the mirror? (Y/n) :");
fflush(stdout);
linput(stdin, str, 250);
if (strnotempty(str)) {
if (!((str[0] == 'y') || (str[0] == 'Y')))
return;
}
printf("\n");
// couper en morceaux
argv[0] = strdup("winhttrack");
argv[1] = cmd;
argc++;
while(cmd[i]) {
if (cmd[i] == '\"')
g = !g;
if (cmd[i] == ' ') {
if (!g) {
cmd[i] = '\0';
argv[argc++] = cmd + i + 1;
}
}
i++;
}
hts_main(argc, argv);
}
//} else {
// help("httrack",1);
}
/* Free buffers */
free(buffers);
#undef urls
#undef mainpath
#undef projname
#undef stropt
#undef stropt2
#undef strwild
#undef cmd
#undef str
#undef argv
}
// GESTION DES TABLES DE HACHAGE
// Méthode à 2 clés (adr+fil), 2e cle facultative
// hash[no_enregistrement][pos]->hash est un index dans le tableau général liens
// #define HTS_HASH_SIZE 8191 (premier si possible!)
// type: numero enregistrement - 0 est case insensitive (sav) 1 (adr+fil) 2 (former_adr+former_fil)
// recherche dans la table selon nom1,nom2 et le no d'enregistrement
// retour: position ou -1 si non trouvé
int hash_read(const hash_struct* hash,char* nom1,char* nom2,int type,int normalized) {
char BIGSTK normfil_[HTS_URLMAXSIZE*2];
char catbuff[CATBUFF_SIZE];
char* normfil;
char* normadr;
unsigned int cle;
int pos;
// calculer la clé de recherche, non modulée
if (type)
cle = hash_cle(nom1,nom2);
else
cle = hash_cle(convtolower(catbuff,nom1),nom2); // case insensitive
// la position se calcule en modulant
pos = (int) (cle%HTS_HASH_SIZE);
// entrée trouvée?
if (hash->hash[type][pos] >= 0) { // un ou plusieurs enregistrement(s) avec une telle clé existe..
// tester table de raccourcis (hash)
// pos est maintenant la position recherchée dans liens
pos = hash->hash[type][pos];
while (pos>=0) { // parcourir la chaine
switch (type) {
case 0: // sav
if (strfield2(nom1,hash->liens[pos]->sav)) { // case insensitive
#if DEBUG_HASH==2
printf("hash: found shortcut at %d\n",pos);
#endif
return pos;
}
break;
case 1: // adr+fil
{
if (!normalized)
normfil=hash->liens[pos]->fil;
else
normfil=fil_normalized(hash->liens[pos]->fil,normfil_);
if (!normalized)
normadr = jump_identification(hash->liens[pos]->adr);
else
normadr = jump_normalized(hash->liens[pos]->adr);
if ((strfield2(nom1,normadr)!=0) && (strcmp(nom2,normfil)==0)) {
#if DEBUG_HASH==2
printf("hash: found shortcut at %d\n",pos);
#endif
return pos;
}
}
break;
case 2: // former_adr+former_fil
{
if (hash->liens[pos]->former_adr) {
if (!normalized)
normfil=hash->liens[pos]->former_fil;
else
normfil=fil_normalized(hash->liens[pos]->former_fil,normfil_);
if (!normalized)
normadr = jump_identification(hash->liens[pos]->former_adr);
else
normadr = jump_normalized(hash->liens[pos]->former_adr);
if ((strfield2(nom1,normadr)!=0) && (strcmp(nom2,normfil)==0)) {
#if DEBUG_HASH==2
printf("hash: found shortcut at %d\n",pos);
#endif
return pos;
}
}
}
break;
}
// calculer prochaine position dans la chaine
{
int old=pos;
pos=hash->liens[pos]->hash_next[type]; // sinon prochain dans la chaine
if (old==pos)
pos=-1; // erreur de bouclage (ne devrait pas arriver)
}
}
// Ok va falloir chercher alors..
/*pos=hash->max_lien; // commencer à max_lien
switch (type) {
case 0: // sav
while(pos>=0) {
if (hash->liens[pos]->hash_sav == cle ) {
if (strcmp(nom1,hash->liens[pos]->sav)==0) {
hash->hash[type][(int) (cle%HTS_HASH_SIZE)] = pos; // noter plus récent dans shortcut table
#if DEBUG_HASH==2
printf("hash: found long search at %d\n",pos);
#endif
return pos;
}
}
pos--;
}
break;
case 1: // adr+fil
while(pos>=0) {
if (hash->liens[pos]->hash_adrfil == cle ) {
if ((strcmp(nom1,hash->liens[pos]->adr)==0) && (strcmp(nom2,hash->liens[pos]->fil)==0)) {
hash->hash[type][(int) (cle%HTS_HASH_SIZE)] = pos; // noter plus récent dans shortcut table
#if DEBUG_HASH==2
printf("hash: found long search at %d\n",pos);
#endif
return pos;
}
}
pos--;
}
break;
case 2: // former_adr+former_fil
while(pos>=0) {
if (hash->liens[pos]->hash_fadrfil == cle ) {
if (hash->liens[pos]->former_adr)
if ((strcmp(nom1,hash->liens[pos]->former_adr)==0) && (strcmp(nom2,hash->liens[pos]->former_fil)==0)) {
hash->hash[type][(int) (cle%HTS_HASH_SIZE)] = pos; // noter plus récent dans shortcut table
#if DEBUG_HASH==2
printf("hash: found long search at %d\n",pos);
#endif
return pos;
}
}
pos--;
}
}*/
#if DEBUG_HASH==1
printf("hash: not found after test %s%s\n",nom1,nom2);
#endif
return -1; // non trouvé
} else {
#if DEBUG_HASH==2
printf("hash: not found %s%s\n",nom1,nom2);
#endif
return -1; // non trouvé : clé non entrée (même une fois)
}
}
/*
Indexing system
A little bit dirty, (quick'n dirty, in fact)
But should be okay on most cases
Tags and javascript handled (ignored)
*/
int index_keyword(const char* html_data,LLint size,const char* mime,const char* filename,const char* indexpath) {
#if HTS_MAKE_KEYWORD_INDEX
char catbuff[CATBUFF_SIZE];
int intag=0,inscript=0,incomment=0;
char keyword[KEYW_LEN+32];
int i=0;
//
int WordIndexSize=1024;
inthash WordIndexHash=NULL;
FILE *tmpfp=NULL;
//
// Check parameters
if (!html_data)
return 0;
if (!size)
return 0;
if (!mime)
return 0;
if (!filename)
return 0;
// Init ?
if (hts_index_init) {
remove(concat(catbuff,indexpath,"index.txt"));
remove(concat(catbuff,indexpath,"sindex.html"));
hts_index_init=0;
}
// Check MIME type
if (is_html_mime_type(mime)) {
inscript=0;
}
// FIXME - temporary fix for image/svg+xml (svg)
// "IN XML" (html like, in fact :) )
else if (
(strfield2(mime,"image/svg+xml"))
||
(strfield2(mime,"image/svg-xml"))
#if HTS_USEMMS
||
strfield2(mime,"video/x-ms-asf")
#endif
) {
inscript=0;
}
else if (
(strfield2(mime,"application/x-javascript"))
|| (strfield2(mime,"text/css"))
) {
inscript=1;
//} else if (strfield2(mime, "text/vnd.wap.wml")) { // humm won't work in many cases
// inscript=0;
} else
return 0;
// Temporary file
tmpfp = tmpfile();
if (!tmpfp)
return 0;
// Create hash structure
// Hash tables rulez da world!
WordIndexHash=inthash_new(WordIndexSize);
if (!WordIndexHash)
return 0;
// Start indexing this page
keyword[0]='\0';
while(i<size) {
if (strfield(html_data + i , "<script")) {
inscript=1;
}
else if (strfield(html_data + i , "<!--")) {
incomment=1;
}
else if (strfield(html_data + i , "</script")) {
if (!incomment)
inscript=0;
}
else if (strfield(html_data + i , "-->")) {
incomment=0;
}
else if (html_data[i]=='<') {
if (!inscript)
intag=1;
}
else if (html_data[i]=='>') {
intag=0;
}
else {
// Okay, parse keywords
if ( (!inscript) && (!incomment) && (!intag) ) {
char cchar=html_data[i];
int pos;
int len = (int) strlen(keyword);
// Replace (ignore case, and so on..)
if ((pos=strcpos(KEYW_TRANSCODE_FROM,cchar))>=0)
cchar=KEYW_TRANSCODE_TO[pos];
if (strchr(KEYW_ACCEPT,cchar)) {
/* Ignore some characters at begining */
if ((len>0) || (!strchr(KEYW_IGNORE_BEG,cchar))) {
keyword[len++]=cchar;
keyword[len]='\0';
}
} else if ( (strchr(KEYW_SPACE,cchar)) || (!cchar) ) {
/* Avoid these words */
if (len>0) {
if (strchr(KEYW_NOT_BEG,keyword[0])) {
keyword[(len=0)]='\0';
}
}
/* Strip ending . and so */
{
int ok=0;
while((len = (int) strlen(keyword)) && (!ok)) {
if (strchr(KEYW_STRIP_END,keyword[len-1])) { /* strip it */
keyword[len-1]='\0';
} else
ok=1;
}
}
/* Store it ? */
if (len >= KEYW_MIN_LEN ) {
hts_primindex_words++;
if (inthash_inc(WordIndexHash,keyword)) { /* added new */
fprintf(tmpfp,"%s\n",keyword);
}
}
keyword[(len=0)]='\0';
} else /* Invalid */
keyword[(len=0)]='\0';
if (len>KEYW_LEN) {
keyword[(len=0)]='\0';
}
}
}
i++;
}
// Reset temp file
fseek(tmpfp,0,SEEK_SET);
// Process indexing for this page
{
//FILE* fp=NULL;
//fp=fopen(concat(indexpath,"index.txt"),"ab");
if (fp_tmpproject) {
while(!feof(tmpfp)) {
char line[KEYW_LEN + 32];
linput(tmpfp,line,KEYW_LEN + 2);
if (strnotempty(line)) {
intptr_t e=0;
if (inthash_read(WordIndexHash,line,&e)) {
//if (e) {
char BIGSTK savelst[HTS_URLMAXSIZE*2];
e++; /* 0 means "once" */
if (strncmp((const char*)fslash(catbuff,(char*)indexpath),filename,strlen(indexpath))==0) // couper
strcpybuff(savelst,filename+strlen(indexpath));
else
strcpybuff(savelst,filename);
// Add entry for this file and word
fprintf(fp_tmpproject,"%s %d %s\n",line,(int) (KEYW_SORT_MAXCOUNT - e),savelst);
hts_primindex_size++;
//}
}
}
}
//fclose(fp);
}
}
// Delete temp file
fclose(tmpfp);
tmpfp=NULL;
// Clear hash table
inthash_delete(&WordIndexHash);
#endif
return 1;
}
static int hts_acceptlink_(httrackp* opt,
int ptr,int lien_tot,lien_url** liens,
char* adr,char* fil,
char* tag, char* attribute,
int* set_prio_to,
int* just_test_it)
{
int forbidden_url=-1;
int meme_adresse;
int embedded_triggered = 0;
#define _FILTERS (*opt->filters.filters)
#define _FILTERS_PTR (opt->filters.filptr)
#define _ROBOTS ((robots_wizard*)opt->robotsptr)
int may_set_prio_to=0;
// -------------------- PHASE 0 --------------------
/* Infos */
if ((opt->debug>1) && (opt->log!=NULL)) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"wizard test begins: %s%s"LF,adr,fil);
test_flush;
}
/* Already exists? Then, we know that we knew that this link had to be known */
if (adr[0] != '\0'
&& fil[0] != '\0'
&& opt->hash != NULL
&& hash_read(opt->hash, adr, fil, 1, opt->urlhack) >= 0
) {
return 0; /* Yokai */
}
// -------------------- PRELUDE OF PHASE 3-BIS --------------------
/* Built-in known tags (<img src=..>, ..) */
if (forbidden_url != 0 && opt->nearlink && tag != NULL && attribute != NULL) {
int i;
for(i = 0 ; hts_detect_embed[i].tag != NULL ; i++) {
if (cmp_token(tag, hts_detect_embed[i].tag)
&& cmp_token(attribute, hts_detect_embed[i].attr)
)
{
embedded_triggered = 1;
break;
}
}
}
// -------------------- PHASE 1 --------------------
/* Doit-on traiter les non html? */
if ((opt->getmode & 2)==0) { // non on ne doit pas
if (!ishtml(opt,fil)) { // non il ne faut pas
//adr[0]='\0'; // ne pas traiter ce lien, pas traiter
forbidden_url=1; // interdire récupération du lien
if ((opt->debug>1) && (opt->log!=NULL)) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"non-html file ignored at %s : %s"LF,adr,fil);
test_flush;
}
}
}
/* Niveau 1: ne pas parser suivant! */
if (ptr>0) {
if ( ( liens[ptr]->depth <= 0 ) || ( liens[ptr]->depth <= 1 && !embedded_triggered ) ) {
forbidden_url=1; // interdire récupération du lien
if ((opt->debug>1) && (opt->log!=NULL)) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"file from too far level ignored at %s : %s"LF,adr,fil);
test_flush;
}
}
}
/* en cas d'échec en phase 1, retour immédiat! */
if (forbidden_url == 1) {
return forbidden_url;
}
// -------------------- PHASE 2 --------------------
// ------------------------------------------------------
// doit-on traiter ce lien?.. vérifier droits de déplacement
meme_adresse=strfield2(adr,urladr);
if ((opt->debug>1) && (opt->log!=NULL)) {
HTS_LOG(opt,LOG_DEBUG);
if (meme_adresse)
fprintf(opt->log,"Compare addresses: %s=%s"LF,adr,urladr);
else
fprintf(opt->log,"Compare addresses: %s!=%s"LF,adr,urladr);
test_flush;
}
if (meme_adresse) { // même adresse
{ // tester interdiction de descendre
// MODIFIE : en cas de remontée puis de redescente, il se pouvait qu'on ne puisse pas atteindre certains fichiers
// problème: si un fichier est virtuellement accessible via une page mais dont le lien est sur une autre *uniquement*..
char BIGSTK tempo[HTS_URLMAXSIZE*2];
char BIGSTK tempo2[HTS_URLMAXSIZE*2];
tempo[0] = tempo2[0] = '\0';
// note (up/down): on calcule à partir du lien primaire, ET du lien précédent.
// ex: si on descend 2 fois on peut remonter 1 fois
if (lienrelatif(tempo,fil,liens[liens[ptr]->premier]->fil)==0) {
if (lienrelatif(tempo2,fil,liens[ptr]->fil)==0) {
if ((opt->debug>1) && (opt->log!=NULL)) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"build relative links to test: %s %s (with %s and %s)"LF,tempo,tempo2,liens[liens[ptr]->premier]->fil,liens[ptr]->fil);
test_flush;
}
// si vient de primary, ne pas tester lienrelatif avec (car host "différent")
/*if (liens[liens[ptr]->premier] == 0) { // vient de primary
}
*/
// NEW: finalement OK, sauf pour les moved repérés par link_import
// PROBLEME : annulé a cause d'un lien éventuel isolé accepté..qui entrainerait un miroir
// (test même niveau (NOUVEAU à cause de certains problèmes de filtres non intégrés))
// NEW
if (
(tempo[0] != '\0' && tempo[1] != '\0' && strchr(tempo+1,'/') == 0)
||
(tempo2[0] != '\0' && tempo2[1] != '\0' && strchr(tempo2+1,'/') == 0)
) {
if (!liens[ptr]->link_import) { // ne résulte pas d'un 'moved'
forbidden_url=0;
if ((opt->debug>1) && (opt->log!=NULL)) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"same level link authorized: %s%s"LF,adr,fil);
test_flush;
}
}
}
// down
if ( (strncmp(tempo,"../",3)) || (strncmp(tempo2,"../",3))) { // pas montée sinon ne nbous concerne pas
int test1,test2;
if (!strncmp(tempo,"../",3))
test1=0;
else
test1 = (strchr(tempo +((*tempo =='/')?1:0),'/')!=NULL);
if (!strncmp(tempo2,"../",3))
test2=0;
else
test2 = (strchr(tempo2+((*tempo2=='/')?1:0),'/')!=NULL);
if ( (test1) && (test2) ) { // on ne peut que descendre
if ((opt->seeker & 1)==0) { // interdiction de descendre
forbidden_url=1;
if ((opt->debug>1) && (opt->log!=NULL)) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"lower link canceled: %s%s"LF,adr,fil);
test_flush;
}
} else { // autorisé à priori - NEW
if (!liens[ptr]->link_import) { // ne résulte pas d'un 'moved'
forbidden_url=0;
if ((opt->debug>1) && (opt->log!=NULL)) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"lower link authorized: %s%s"LF,adr,fil);
test_flush;
}
}
}
} else if ( (test1) || (test2) ) { // on peut descendre pour accéder au lien
if ((opt->seeker & 1)!=0) { // on peut descendre - NEW
if (!liens[ptr]->link_import) { // ne résulte pas d'un 'moved'
forbidden_url=0;
if ((opt->debug>1) && (opt->log!=NULL)) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"lower link authorized: %s%s"LF,adr,fil);
test_flush;
}
}
}
}
}
// up
if ( (!strncmp(tempo,"../",3)) && (!strncmp(tempo2,"../",3)) ) { // impossible sans monter
if ((opt->seeker & 2)==0) { // interdiction de monter
forbidden_url=1;
if ((opt->debug>1) && (opt->log!=NULL)) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"upper link canceled: %s%s"LF,adr,fil);
test_flush;
}
} else { // autorisé à monter - NEW
if (!liens[ptr]->link_import) { // ne résulte pas d'un 'moved'
forbidden_url=0;
if ((opt->debug>1) && (opt->log!=NULL)) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"upper link authorized: %s%s"LF,adr,fil);
test_flush;
}
}
}
} else if ( (!strncmp(tempo,"../",3)) || (!strncmp(tempo2,"../",3)) ) { // Possible en montant
if ((opt->seeker & 2)!=0) { // autorisé à monter - NEW
if (!liens[ptr]->link_import) { // ne résulte pas d'un 'moved'
forbidden_url=0;
if ((opt->debug>1) && (opt->log!=NULL)) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"upper link authorized: %s%s"LF,adr,fil);
test_flush;
}
}
} // sinon autorisé en descente
}
} else {
if (opt->log) {
fprintf(opt->log,"Error building relative link %s and %s"LF,fil,liens[ptr]->fil);
test_flush;
}
}
} else {
if (opt->log) {
fprintf(opt->log,"Error building relative link %s and %s"LF,fil,liens[liens[ptr]->premier]->fil);
test_flush;
}
}
} // tester interdiction de descendre?
{ // tester interdiction de monter
char BIGSTK tempo[HTS_URLMAXSIZE*2];
char BIGSTK tempo2[HTS_URLMAXSIZE*2];
if (lienrelatif(tempo,fil,liens[liens[ptr]->premier]->fil)==0) {
if (lienrelatif(tempo2,fil,liens[ptr]->fil)==0) {
} else {
if (opt->log) {
fprintf(opt->log,"Error building relative link %s and %s"LF,fil,liens[ptr]->fil);
test_flush;
}
}
} else {
if (opt->log) {
fprintf(opt->log,"Error building relative link %s and %s"LF,fil,liens[liens[ptr]->premier]->fil);
test_flush;
}
}
} // fin tester interdiction de monter
} else { // adresse différente, sortir?
//if (!opt->wizard) { // mode non wizard
// doit-on traiter ce lien?.. vérifier droits de sortie
switch((opt->travel & 255)) {
case 0:
if (!opt->wizard) // mode non wizard
forbidden_url=1; break; // interdicton de sortir au dela de l'adresse
case 1: { // sortie sur le même dom.xxx
size_t i = strlen(adr)-1;
size_t j = strlen(urladr)-1;
while( (i>0) && (adr[i]!='.')) i--;
while( (j>0) && (urladr[j]!='.')) j--;
i--; j--;
while( (i>0) && (adr[i]!='.')) i--;
while( (j>0) && (urladr[j]!='.')) j--;
if ((i>0) && (j>0)) {
if (!strfield2(adr+i,urladr+j)) { // !=
if (!opt->wizard) { // mode non wizard
//printf("refused: %s\n",adr);
forbidden_url=1; // pas même domaine
if ((opt->debug>1) && (opt->log!=NULL)) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"foreign domain link canceled: %s%s"LF,adr,fil);
test_flush;
}
}
} else {
if (opt->wizard) { // mode wizard
forbidden_url=0; // même domaine
if ((opt->debug>1) && (opt->log!=NULL)) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"same domain link authorized: %s%s"LF,adr,fil);
test_flush;
}
}
}
} else
forbidden_url=1;
}
break;
case 2: { // sortie sur le même .xxx
size_t i = strlen(adr)-1;
size_t j = strlen(urladr)-1;
while( (i>0) && (adr[i]!='.')) i--;
while( (j>0) && (urladr[j]!='.')) j--;
if ((i>0) && (j>0)) {
if (!strfield2(adr+i,urladr+j)) { // !-
if (!opt->wizard) { // mode non wizard
//printf("refused: %s\n",adr);
forbidden_url=1; // pas même .xx
if ((opt->debug>1) && (opt->log!=NULL)) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"foreign location link canceled: %s%s"LF,adr,fil);
test_flush;
}
}
} else {
if (opt->wizard) { // mode wizard
forbidden_url=0; // même domaine
if ((opt->debug>1) && (opt->log!=NULL)) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"same location link authorized: %s%s"LF,adr,fil);
test_flush;
}
}
}
} else forbidden_url=1;
}
break;
case 7: // everywhere!!
if (opt->wizard) { // mode wizard
forbidden_url=0;
break;
}
} // switch
// ANCIENNE POS -- récupérer les liens à côtés d'un lien (nearlink)
} // fin test adresse identique/différente
// -------------------- PHASE 3 --------------------
// récupérer les liens à côtés d'un lien (nearlink) (nvelle pos)
if (forbidden_url != 0 && opt->nearlink) {
if (!ishtml(opt,fil)) { // non html
//printf("ok %s%s\n",ad,fil);
forbidden_url=0; // autoriser
may_set_prio_to=1+1; // set prio to 1 (parse but skip urls) if near is the winner
if ((opt->debug>1) && (opt->log!=NULL)) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"near link authorized: %s%s"LF,adr,fil);
test_flush;
}
}
}
// -------------------- PHASE 3-BIS --------------------
/* Built-in known tags (<img src=..>, ..) */
if (forbidden_url != 0 && embedded_triggered) {
forbidden_url=0; // autoriser
may_set_prio_to=1+1; // set prio to 1 (parse but skip urls) if near is the winner
if ((opt->debug>1) && (opt->log!=NULL)) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"near link authorized (friendly tag): %s%s"LF,adr,fil);
test_flush;
}
}
// -------------------- PHASE 4 --------------------
// ------------------------------------------------------
// Si wizard, il se peut qu'on autorise ou qu'on interdise
// un lien spécial avant même de tester sa position, sa hiérarchie etc.
// peut court-circuiter le forbidden_url précédent
if (opt->wizard) { // le wizard entre en action..
//
int question=1; // poser une question
int force_mirror=0; // pour mirror links
int filters_answer=0; // décision prise par les filtres
char BIGSTK l[HTS_URLMAXSIZE*2];
char BIGSTK lfull[HTS_URLMAXSIZE*2];
if (forbidden_url!=-1) question=0; // pas de question, résolu
// former URL complète du lien actuel
strcpybuff(l,jump_identification(adr));
if (*fil!='/') strcatbuff(l,"/");
strcatbuff(l,fil);
// full version (http://foo:[email protected]/bar.html)
if (!link_has_authority(adr))
strcpybuff(lfull,"http://");
else
lfull[0]='\0';
strcatbuff(lfull,adr);
if (*fil!='/') strcatbuff(lfull,"/");
strcatbuff(lfull,fil);
// tester filters (URLs autorisées ou interdites explicitement)
// si lien primaire on saute le joker, on est pas lémur
if (ptr==0) { // lien primaire, autoriser
question=1; // la question sera résolue automatiquement
forbidden_url=0;
may_set_prio_to=0; // clear may-set flag
} else {
// eternal depth first
// vérifier récursivité extérieure
if (opt->extdepth>0) {
if ( /*question && */ (ptr>0) && (!force_mirror)) {
// well, this is kinda a hak
// we don't want to mirror EVERYTHING, and we have to decide where to stop
// there is no way yet to tag "external" links, and therefore links that are
// "weak" (authorized depth < external depth) are just not considered for external
// hack
if (liens[ptr]->depth > opt->extdepth) {
// *set_prio_to = opt->extdepth + 1;
*set_prio_to = 1 + (opt->extdepth);
may_set_prio_to=0; // clear may-set flag
forbidden_url=0; // autorisé
question=0; // résolution auto
if ((opt->debug>1) && (opt->log!=NULL)) {
if (question) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"(wizard) ambiguous link accepted (external depth): link %s at %s%s"LF,l,urladr,urlfil);
} else {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"(wizard) forced to accept link (external depth): link %s at %s%s"LF,l,urladr,urlfil);
}
test_flush;
}
}
}
}
// filters
{
int jok;
char* mdepth="";
// filters, 0=sait pas 1=ok -1=interdit
{
int jokDepth1=0,jokDepth2=0;
int jok1=0,jok2=0;
jok1 = fa_strjoker(/*url*/0, _FILTERS,*_FILTERS_PTR,lfull,NULL,NULL,&jokDepth1);
jok2 = fa_strjoker(/*url*/0, _FILTERS,*_FILTERS_PTR,l, NULL,NULL,&jokDepth2);
if (jok2 == 0) { // #2 doesn't know
jok = jok1; // then, use #1
mdepth = _FILTERS[jokDepth1];
} else if (jok1 == 0) { // #1 doesn't know
jok = jok2; // then, use #2
mdepth = _FILTERS[jokDepth2];
} else if (jokDepth1 >= jokDepth2) { // #1 matching rule is "after" #2, then it is prioritary
jok = jok1;
mdepth = _FILTERS[jokDepth1];
} else { // #2 matching rule is "after" #1, then it is prioritary
jok = jok2;
mdepth = _FILTERS[jokDepth2];
}
}
if (jok == 1) { // autorisé
filters_answer=1; // décision prise par les filtres
question=0; // ne pas poser de question, autorisé
forbidden_url=0; // URL autorisée
may_set_prio_to=0; // clear may-set flag
if ((opt->debug>1) && (opt->log!=NULL)) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"(wizard) explicit authorized (%s) link: link %s at %s%s"LF,mdepth,l,urladr,urlfil);
test_flush;
}
} else if (jok == -1) { // forbidden
filters_answer=1; // décision prise par les filtres
question=0; // ne pas poser de question:
forbidden_url=1; // URL interdite
if ((opt->debug>1) && (opt->log!=NULL)) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"(wizard) explicit forbidden (%s) link: link %s at %s%s"LF,mdepth,l,urladr,urlfil);
test_flush;
}
} // sinon on touche à rien
}
}
// vérifier mode mirror links
if (question) {
if (opt->mirror_first_page) { // mode mirror links
if (liens[ptr]->precedent==0) { // parent=primary!
forbidden_url=0; // autorisé
may_set_prio_to=0; // clear may-set flag
question=1; // résolution auto
force_mirror=5; // mirror (5)
if ((opt->debug>1) && (opt->log!=NULL)) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"(wizard) explicit mirror link: link %s at %s%s"LF,l,urladr,urlfil);
test_flush;
}
}
}
}
// on doit poser la question.. peut on la poser?
// (oui je sais quel preuve de délicatesse, merci merci)
if ((question) && (ptr>0) && (!force_mirror)) {
if (opt->wizard==2) { // éliminer tous les liens non répertoriés comme autorisés (ou inconnus)
question=0;
forbidden_url=1;
if ((opt->debug>1) && (opt->log!=NULL)) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"(wizard) ambiguous forbidden link: link %s at %s%s"LF,l,urladr,urlfil);
test_flush;
}
}
}
// vérifier robots.txt
if (opt->robots) {
int r = checkrobots(_ROBOTS,adr,fil);
if (r == -1) { // interdiction
#if DEBUG_ROBOTS
printf("robots.txt forbidden: %s%s\n",adr,fil);
#endif
// question résolue, par les filtres, et mode robot non strict
if ((!question) && (filters_answer) && (opt->robots == 1) && (forbidden_url!=1)) {
r=0; // annuler interdiction des robots
if (!forbidden_url) {
if ((opt->debug>1) && (opt->log!=NULL)) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"Warning link followed against robots.txt: link %s at %s%s"LF,l,adr,fil);
test_flush;
}
}
}
if (r == -1) { // interdire
forbidden_url=1;
question=0;
if ((opt->debug>1) && (opt->log!=NULL)) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"(robots.txt) forbidden link: link %s at %s%s"LF,l,adr,fil);
test_flush;
}
}
}
}
if (!question) {
if ((opt->debug>1) && (opt->log!=NULL)) {
if (!forbidden_url) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"(wizard) shared foreign domain link: link %s at %s%s"LF,l,urladr,urlfil);
} else {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"(wizard) cancelled foreign domain link: link %s at %s%s"LF,l,urladr,urlfil);
}
test_flush;
}
#if BDEBUG==3
printf("at %s in %s, wizard says: url %s ",urladr,urlfil,l);
if (forbidden_url) printf("cancelled"); else printf(">SHARED<");
printf("\n");
#endif
}
/* en cas de question, ou lien primaire (enregistrer autorisations) */
if (question || (ptr==0)) {
const char* s;
int n=0;
// si primaire (plus bas) alors ...
if ((ptr!=0) && (force_mirror==0)) {
char BIGSTK tempo[HTS_URLMAXSIZE*2];
tempo[0]='\0';
strcatbuff(tempo,adr);
strcatbuff(tempo,fil);
s = RUN_CALLBACK1(opt, query3, tempo);
if (strnotempty(s)==0) // entrée
n=0;
else if (isdigit((unsigned char)*s))
sscanf(s,"%d",&n);
else {
switch(*s) {
case '*': n=-1; break;
case '!': n=-999; {
/*char *a;
int i;
a=copie_de_adr-128;
if (a<r.adr) a=r.adr;
for(i=0;i<256;i++) {
if (a==copie_de_adr) printf("\nHERE:\n");
printf("%c",*a++);
}
printf("\n\n");
*/
}
break;
default: n=-999; printf("What did you say?\n"); break;
}
}
io_flush;
} else { // lien primaire: autoriser répertoire entier
if (!force_mirror) {
if ((opt->seeker & 1)==0) { // interdiction de descendre
n=7;
} else {
n=5; // autoriser miroir répertoires descendants (lien primaire)
}
} else // forcer valeur (sub-wizard)
n=force_mirror;
}
/* sanity check - reallocate filters HERE */
if ((*_FILTERS_PTR) + 1 >= opt->maxfilter) {
opt->maxfilter += HTS_FILTERSINC;
if (filters_init(&_FILTERS, opt->maxfilter, HTS_FILTERSINC) == 0) {
printf("PANIC! : Too many filters : >%d [%d]\n", (*_FILTERS_PTR),__LINE__);
fflush(stdout);
if (opt->log) {
fprintf(opt->log,LF"Too many filters, giving up..(>%d)"LF, (*_FILTERS_PTR) );
fprintf(opt->log,"To avoid that: use #F option for more filters (example: -#F5000)"LF);
test_flush;
}
assertf("too many filters - giving up" == NULL); // wild..
}
}
// here we have enough room for a new filter if necessary
switch(n) {
case -1: // sauter tout le reste
forbidden_url=1;
opt->wizard=2; // sauter tout le reste
break;
case 0: // interdire les mêmes liens: adr/fil
forbidden_url=1;
HT_INSERT_FILTERS0; // insérer en 0
strcpybuff(_FILTERS[0],"-");
strcatbuff(_FILTERS[0],jump_identification(adr));
if (*fil!='/') strcatbuff(_FILTERS[0],"/");
strcatbuff(_FILTERS[0],fil);
break;
case 1: // éliminer répertoire entier et sous rép: adr/path/ *
forbidden_url=1;
{
size_t i = strlen(fil)-1;
while((fil[i]!='/') && (i>0)) i--;
if (fil[i]=='/') {
HT_INSERT_FILTERS0; // insérer en 0
strcpybuff(_FILTERS[0],"-");
strcatbuff(_FILTERS[0],jump_identification(adr));
if (*fil!='/') strcatbuff(_FILTERS[0],"/");
strncatbuff(_FILTERS[0] ,fil,i);
if (_FILTERS[0][strlen(_FILTERS[0])-1]!='/')
strcatbuff(_FILTERS[0],"/");
strcatbuff(_FILTERS[0],"*");
}
}
// ** ...
break;
case 2: // adresse adr*
forbidden_url=1;
HT_INSERT_FILTERS0; // insérer en 0
strcpybuff(_FILTERS[0],"-");
strcatbuff(_FILTERS[0],jump_identification(adr));
strcatbuff(_FILTERS[0],"*");
break;
case 3: // ** A FAIRE
forbidden_url=1;
/*
{
int i=strlen(adr)-1;
while((adr[i]!='/') && (i>0)) i--;
if (i>0) {
}
}*/
break;
//
case 4: // same link
// PAS BESOIN!!
/*HT_INSERT_FILTERS0; // insérer en 0
strcpybuff(_FILTERS[0],"+");
strcatbuff(_FILTERS[0],adr);
if (*fil!='/') strcatbuff(_FILTERS[0],"/");
strcatbuff(_FILTERS[0],fil);*/
// étant donné le renversement wizard/primary filter (les primary autorisent up/down ET interdisent)
// il faut éviter d'un lien isolé effectue un miroir total..
*set_prio_to = 0+1; // niveau de récursion=0 (pas de miroir)
break;
case 5: // autoriser répertoire entier et fils
if ((opt->seeker & 2)==0) { // interdiction de monter
size_t i = strlen(fil)-1;
while((fil[i]!='/') && (i>0)) i--;
if (fil[i]=='/') {
HT_INSERT_FILTERS0; // insérer en 0
strcpybuff(_FILTERS[0],"+");
strcatbuff(_FILTERS[0],jump_identification(adr));
if (*fil!='/') strcatbuff(_FILTERS[0],"/");
strncatbuff(_FILTERS[0],fil,i+1);
strcatbuff(_FILTERS[0],"*");
}
} else { // autoriser domaine alors!!
HT_INSERT_FILTERS0; // insérer en 0 strcpybuff(filters[filptr],"+");
strcpybuff(_FILTERS[0],"+");
strcatbuff(_FILTERS[0],jump_identification(adr));
strcatbuff(_FILTERS[0],"*");
}
break;
case 6: // same domain
HT_INSERT_FILTERS0; // insérer en 0 strcpybuff(filters[filptr],"+");
strcpybuff(_FILTERS[0],"+");
strcatbuff(_FILTERS[0],jump_identification(adr));
strcatbuff(_FILTERS[0],"*");
break;
//
case 7: // autoriser ce répertoire
{
size_t i = strlen(fil)-1;
while((fil[i]!='/') && (i>0)) i--;
if (fil[i]=='/') {
HT_INSERT_FILTERS0; // insérer en 0
strcpybuff(_FILTERS[0],"+");
strcatbuff(_FILTERS[0],jump_identification(adr));
if (*fil!='/') strcatbuff(_FILTERS[0],"/");
strncatbuff(_FILTERS[0],fil,i+1);
strcatbuff(_FILTERS[0],"*[file]");
}
}
break;
case 50: // on fait rien
break;
} // switch
} // test du wizard sur l'url
} // fin du test wizard..
// -------------------- PHASE 5 --------------------
// lien non autorisé, peut-on juste le tester?
if (just_test_it) {
if (forbidden_url==1) {
if (opt->travel&256) { // tester tout de même
if (strfield(adr,"ftp://")==0
#if HTS_USEMMS
&& strfield(adr,"mms://")==0
#endif
) { // PAS ftp!
forbidden_url=1; // oui oui toujours interdit (note: sert à rien car ==1 mais c pour comprendre)
*just_test_it=1; // mais on teste
if ((opt->debug>1) && (opt->log!=NULL)) {
HTS_LOG(opt,LOG_DEBUG); fprintf(opt->log,"Testing link %s%s"LF,adr,fil);
}
}
}
}
//adr[0]='\0'; // cancel
}
// -------------------- FINAL PHASE --------------------
// Test if the "Near" test won
if (may_set_prio_to && forbidden_url == 0) {
*set_prio_to = may_set_prio_to;
}
return forbidden_url;
#undef _FILTERS
#undef _FILTERS_PTR
#undef _ROBOTS
}
